Cloudflare 推出边缘 AI 套件:按需调用就近 GPU,主打降本与低延迟
Cloudflare 推出 Workers AI、Vectorize 和 AI Gateway 三款工具。开发者可按需调用就近 GPU 运行 Llama 2 等模型,配合向量数据库与用量监控降低延迟和成本。推理数据保留在本地且不参与模型训练。
Cloudflare 推出 Workers AI、Vectorize 和 AI Gateway 三款工具。开发者可按需调用就近 GPU 运行 Llama 2 等模型,配合向量数据库与用量监控降低延迟和成本。推理数据保留在本地且不参与模型训练。