跳到正文
IFAI

產業動態

Hugging Face 聯手 Google Cloud:開源模型直通 Vertex AI 與 TPU

首次發布 傳播指數 40

Hugging Face 宣佈與 Google Cloud 達成戰略合作。開發者可以直接在 Google Kubernetes Engine 和 Vertex AI 上訓練與部署 Hugging Face 開源模型,並呼叫 TPU 等算力資源。雙方合作打通了開源生態與雲端基礎設施,降低企業自建 AI 模型的門檻。

Hugging Face 聯手 Google Cloud:開源模型直通 Vertex AI 與 TPU
圖:huggingface.co

很多開發者都有過這種體驗:在 Hugging Face 上找到了心儀的開源模型,想要把它拉到雲上跑起來,卻得在雲控制台、算力配置和環境依賴之間折騰半天。

開源 AI 社群 Hugging Face 和 Google Cloud 宣佈達成戰略合作。兩家要把 Hugging Face 的模型庫與 Google 的雲基礎設施直接打通,讓開發者能更順暢地訓練和部署開源模型。

從資料來看,這個合作的受眾基礎相當龐大。目前 Hugging Face 上託管了超過 100 萬個基於 Transformer 的模型、資料集和應用,每月有數百萬開發者訪問社群,其中有數十萬人已經在 Google Cloud 上活躍使用這些模型。

把開源倉庫直接搬進 Google 雲

這次聯手最直接的變化發生在工程落地環節。

對於 Google Cloud 的企業客戶,現在可以直接在 Google Kubernetes Engine(GKE)和 Vertex AI 平臺內訓練與部署 Hugging Face 上的模型。

算力選擇也直接拉滿。企業不僅能呼叫基於輝達 H100 GPU 的 A3 虛擬機器,還能用上 Intel Sapphire Rapids CPU 的 C3 例項,以及 Google 自家的 TPU 硬體。

對於習慣在 Hugging Face 社群裡折騰的個人開發者和創作者,體驗也會發生變化。社群裡的模型可以直接通過 Inference Endpoints 部署到 Google Cloud,甚至在 Hugging Face Spaces 裡直接掛載 TPU 算力進行加速測試。

此外,企業級使用者還能把 Hugging Face Enterprise Hub 的訂閱和賬單合併到 Google Cloud 賬戶裡統一結算,省去了採購流程的麻煩。

為什麼重要

我們認為,這筆合作對想要自建 AI 應用的團隊來說非常實用。過去你想用開源模型,往往要在社群拉權重,再去各家雲廠商自己配映象、調驅動,現在從 Hugging Face 點幾下就能直接跑在 Vertex AI 或 GKE 上,算力調配門檻肉眼可見地降了下來。

對於 Google Cloud 來說,這是一步聰明的防禦兼進攻。在閉源模型上,微軟和 OpenAI 綁得很緊;Google 選擇把開源大本營 Hugging Face 深度拉進自己的生態,等於是在告訴開發者,不管你用不用 Gemini,只要玩開源大模型,Google Cloud 的 TPU 和算力平臺依然是你最好的選擇。

不過這也暴露出一個現實:開源模型雖然自由,但只要規模上去,底層依然離不開科技巨頭的算力收割。Hugging Face 此前已經跟 AWS 深度合作,如今又抱緊 Google Cloud,看起來它在努力保持平臺中立,讓開發者在各家雲廠商之間自由切換,誰也不得罪。

來源 (1)

  1. [1]
    huggingface.co(在新分頁開啟)原文huggingface.co

每日 AI 內容精選