Cloudflare 推出邊緣 AI 套件:按需呼叫就近 GPU,主打降本與低延遲
Cloudflare 推出 Workers AI、Vectorize 和 AI Gateway 三款工具。開發者可按需呼叫就近 GPU 執行 Llama 2 等模型,配合向量資料庫與用量監控降低延遲和成本。推理資料保留在本地且不參與模型訓練。
Cloudflare 推出 Workers AI、Vectorize 和 AI Gateway 三款工具。開發者可按需呼叫就近 GPU 執行 Llama 2 等模型,配合向量資料庫與用量監控降低延遲和成本。推理資料保留在本地且不參與模型訓練。