跳到正文
IFAI

產業動態

Meta 釋出首款自研 AI 晶片 MTIA:專攻推薦系統,能效達 GPU 三倍

首次發布 傳播指數 38

週四,Meta 釋出首款專為 AI 打造的自研晶片 MTIA。該晶片自 2020 年啟動研發,採用 8×8 陣列架構並深度繫結 PyTorch,專攻深度學習推薦系統,每瓦能效最高達 GPU 的三倍。不過面對更復雜的神經網路時它仍遜於 GPU。

Meta 釋出首款自研 AI 晶片 MTIA:專攻推薦系統,能效達 GPU 三倍
圖:zdnet.com

過去幾年,微軟、Google、亞馬遜甚至各大初創公司都在忙著造晶片,想從輝達手裡搶點主動權。一直把大把資金砸向輝達 GPU 的 Meta,終於也把自家的秘密武器端上了檯面。

週四,Meta 正式公佈了第一款專門用來跑 AI 程式的自研定製晶片,名字叫 MTIA(Meta Training and Inference Accelerator)。這個專案從 2020 年就已經啟動,如今拿出來的是第一代產品。

專挑自己的主戰場下手

MTIA 沒有一上來就說要取代輝達去跑通用大模型,而是把刀口對準了 Meta 最賺錢的命根子:深度學習推薦模型。

換句話說,你在 Facebook 或 Instagram 上刷到的資訊流、看過的短影片,以及平臺給你推送的定向廣告,背後全靠這類模型計算。Meta 的硬體架構設計得很針對性,晶片核心是一個由 64 個處理單元組成的 8×8 網格,採用了經典的脈動陣列設計,讓資料能以最高速度在單元間穿梭流轉。

有意思的是,業界通常會把訓練和推理拆開,用兩套完全不同的晶片來跑,而 Meta 這顆晶片打算兩頭兼顧。根據 Meta 的說法,在能效比上,MTIA 每瓦電力輸出的浮點運算次數能達到 GPU 的 3 倍。

不過 Meta 也很誠實地補了一句:一旦遇到結構更復雜的神經網路,MTIA 的表現就會落後於 GPU,後續版本還需要繼續死磕複雜任務。

為了讓開發者用起來順手,Meta 的晶片團隊跟自家著名的開源框架 PyTorch 團隊做了深度軟硬協同。開發者除了用 PyTorch 或 C++ 寫程式碼,還能用一種叫 KNYFE 的專用語言,直接把高階機器學習運算元轉成針對 MTIA 最佳化的底層 C++ 核心程式碼。

除了 MTIA,Meta 當天還端出了一顆叫 MSVP 的自研影片處理器。Facebook 上使用者每天產生超過 40 億次影片播放,消耗了一半的使用時長。MSVP 就是為了甩開英特爾 CPU 和輝達 GPU,專門做超低功耗的影片轉碼和壓縮,最高畫質下一路輸入能支援五路 4K 15fps 輸出,標準畫質能拉到 4K 60fps。配合這些晶片,Meta 還在規劃支援液冷和高頻寬互聯的下一代 AI 資料中心。

為什麼重要

我們認為,Meta 這步棋下得非常務實,但也暴露了它在算力供應鏈上的妥協與野心。

它聰明的地方在於不貪大。Meta 最大的開銷不是訓練下一個萬億引數的大模型,而是每天幾百億次在推薦演算法和影片流轉碼上的日常消耗。把這部分基礎吞吐搬到自研的專用晶片上,能效比能直接翻 3 倍,省下來的電費和採購費就是實打實的利潤。而且他們手裡握著 PyTorch 這個殺手級軟體生態,生態遷移的摩擦力比其他硬體創業團隊小得多。

但隱患也很明顯。晶片既想管訓練又想管推理,在複雜網路面前立馬就顯出疲態,說明它目前還遠遠動不了輝達的護城河。Meta 接下來訓練前沿尖端模型,網線另一頭依然得插滿輝達的卡。

對於整個行業來說,這意味著頭部科技巨頭已經全員完成「去輝達單一依賴」的初期佈局。自研專用晶片管自家高頻業務,通用 GPU 管前沿探索,雙軌制已經成了巨頭們的標配生存法則。

來源 (1)

  1. [1]
    zdnet.com(在新分頁開啟)原文zdnet.com

每日 AI 內容精選