Hugging Face 開源模型進駐 Amazon Bedrock：83 款模型直接部署

如果你以前在 AWS 上搭生成式 AI 應用，經常會陷入一種彆扭的二選一。

想圖省事用 Bedrock 現成的智慧體和知識庫，就只能選官方支援的那幾家閉源或大牌模型。想用 Hugging Face 上各種靈活好用的開源模型，又得一頭扎進 SageMaker 去配例項、管端點。

Hugging Face 宣佈其社群的熱門開源模型正式登陸 AWS 全新的 Bedrock Marketplace。首批直接上架了 83 個開源模型，覆蓋支援 Bedrock Marketplace 的 14 個 AWS 區域。

披著 Bedrock 外衣的 SageMaker

這次打通的底層邏輯很有意思。在控制台裡，你看到的是統一的 Bedrock 模型目錄，但點開部署後，底層的模型端點其實全交給了 Amazon SageMaker JumpStart 來託管。

你可以直接在 Bedrock 目錄裡按 Hugging Face 篩選，比如選一個 Google Gemma 2 27B Instruct，選好推薦的 ml.g5.48xlarge 例項規格，同意許可協議，幾分鐘就能拉起一個專用端點。

端點跑起來之後，拿到的不是複雜的底層介面，而是一個端點 ARN。你可以直接用 Bedrock 原生的 Converse API 傳參呼叫，就像在調 Claude 或 Titan 一樣。

更關鍵的是，這些開源模型能直接接入 Bedrock 的高階生態，包括 Agents 智慧體、Knowledge Bases 知識庫、Guardrails 安全護欄以及模型評估工具。

算力自負，記得關機

計費規則也很直白：你是在租用 SageMaker 的底層計算例項，所以需要按例項時長支付算力費用，同時疊加 Bedrock 常規的 API 呼叫費用。

這也帶來了一個典型的運維細節：這些開源模型並不是無伺服器按 token 計費的 Serverless 模式。哪怕你一個請求沒發，只要端點開著，GPU 例項就在持續燒錢。

官方在教程最後還特意叮囑了一句：做完實驗千萬別忘了手動點選刪除端點。

為什麼重要

對企業和開發者來說，這省掉了大量膠水程式碼。

以前開源模型落地最煩的是工程配套。你想給一個開源模型加上企業敏感詞過濾、外掛向量檢索、或者做自動化 Agent，要麼自己在 LangChain 裡硬寫，要麼到處搭服務。現在直接套用 Bedrock 成熟的 Guardrails 和 Knowledge Bases，開源模型的企業化門檻被拉低了一大截。

對 AWS 自己來說，這也是把過去兩套有些脫節的產品線生生拼齊了。一邊是做底層 MLOps 的 SageMaker，一邊是主打輕量全託管的 Bedrock。AWS 看起來沒有硬去把 83 個開源模型都做成按量付費的 Serverless 服務，而是用 JumpStart 當墊腳石，把算力成本和視訊記憶體閒置風險轉嫁給使用者，同時把生態紅利收進了 Bedrock。

我們認為這個折中方案非常務實，但它現在的代價也很明顯。它依然需要使用者承擔獨佔 GPU 例項的底噪成本，更適合呼叫量穩定、對資料隱私和定製化有強要求的企業業務，對個人開發者臨時玩票或者低頻應用來說，錢包壓力依然不小。