跳到正文
IFAI

大模型

Meta Llama 4 登陸 Vertex AI:免配 GPU,以託管 API 開箱即用

首次發布 傳播指數 45

Google 宣佈 Meta 的 Llama 4 正式作為全託管 API 在 Vertex AI 上線。開發者無需自行調配與維護 GPU 基礎設施,簽署許可後即可通過相容 OpenAI 格式的介面直接呼叫 Scout 與 Maverick 模型。

Meta Llama 4 登陸 Vertex AI:免配 GPU,以託管 API 開箱即用
圖:developers.googleblog.com

以前想在生產環境裡跑 Meta 的開源大模型,最頭疼的往往不是程式碼,而是算力。你得自己去雲廠商那裡搶 GPU、配驅動、搭推理框架,模型跑起來還得盯著視訊記憶體別爆了。

Google Cloud 宣佈把 Meta 最新一代的 Llama 4 以模型即服務的方式放進了 Vertex AI,並且直接面向所有使用者正式商用。一同正式上線的,還有 Llama 3.3 70B 的託管 API。

這意味著你不用再管底層伺服器,調個 API 就能直接用上 Llama 4。

告別租卡,連 OpenAI 的 SDK 都能直接複用

這次在 Vertex AI 上線的 Llama 4 覆蓋了 Meta 最新的兩條產品線。一個是 Llama 4 Scout,它用了混合專家架構,在多模態任務上效率很高,官方程式碼裡甚至給出了 17B 規模的指令微調版本;另一個是 Meta 專門用來攻堅複雜推理和影像理解的 Llama 4 Maverick,也是目前 Meta 旗下最聰明的一款。

對於開發者來說,最省心的地方在於零運維。你不需要預先租下昂貴的算力節點,Google Cloud 會在後臺把 GPU 排程、依賴項安裝和高可用運維全包了。

計費方式也變成了按呼叫量付費。你發起了多少次請求就付多少錢,不用再為閒置的顯示卡按小時掏冤枉錢。

使用方式也很接地氣。只要在 Vertex AI 的 Model Garden 裡點一下同意 Meta 的社群許可協議,拿到模型 ID,就能直接用上了。

有意思的是,Google 的這個託管端點直接相容了標準的 ChatCompletion 介面。如果你平時習慣用 OpenAI 的 Python SDK,只需要把 base_url 改成 Google Cloud 的端點地址,配上 Google 的授權憑證,原先的程式碼幾乎不用大改就能跑起來,連傳圖片做多模態識別也只要傳個儲存地址就行。

為什麼重要

我們認為,Google 把 Llama 4 做成託管 API 賣,是一門非常務實的生意。

對開發者和中小團隊來說,這大幅降低了用上頂級開源模型的門檻。以前很多人想用 Llama,但一算運維成本和保活 GPU 的賬單就打了退堂鼓。現在只要改幾行呼叫程式碼,就能拿它做複雜視覺理解或智慧體推理,完全值得在日常業務裡順手測一測。當然,限制依然存在,比如你的呼叫頻次受制於每分鐘請求數等配額限制,而且前提是必須簽署 Meta 的社群協議。

對行業來說,這也是雲廠商競爭格局的一個縮影。Google Cloud 並沒有死守自家的 Gemini,而是把自家算力平臺打造成一個開放的大賣場。只要開發者願意把業務和資料留在 Google Cloud 上,用 Gemini 還是用 Meta 的 Llama 4,對 Google 來說都是賺錢的算力買賣。

這種做法很聰明,但也給對手施加了不小的壓力。微軟 Azure 早就深度綁定了 OpenAI 和 Meta,現在 Google 也把開源主力模型拉到了同樣的易用度上。當基礎模型本身的差距被慢慢抹平,雲平臺誰家 API 更好接、計費更透明,就成了留住開發者的勝負手。

來源 (1)

  1. [1]
    developers.googleblog.com(在新分頁開啟)原文developers.googleblog.com

每日 AI 內容精選