Meta 公佈新一代自研 AI 晶片 MTIA：算力翻倍，專攻推薦與推理

大家都在搶輝達 GPU 的時候，Meta 正在悄悄把自家的第二代 AI 晶片塞進資料中心。

Meta 正式公佈了下一代自研 AI 晶片 MTIA 的技術細節。這個專門用來跑推薦和排序演算法的推理晶片，效能比第一代翻了數倍，目前已經在 16 個地區的資料中心投入實際生產。

堆記憶體和頻寬，專治推薦演算法

很多人以為大廠造芯都是奔著去訓練 GPT-4 那樣的大模型，但 Meta 最賺錢、最消耗日常算力的，其實是每天給數十億人資訊流推廣告和短影片的推薦系統。

推薦演算法的特點是計算密集度不算極高，但對記憶體頻寬、延遲和片上儲存挑剔得很。Meta 這一次把製程從台積電 7 奈米換到了 5 奈米，主頻拉到 1.35 GHz，功耗也從前代的 25 瓦放寬到 90 瓦。

數字看起來更實在。稠密算力提升到上一代的 3.5 倍，稀疏算力直接提升了 7 倍。片上 SRAM 翻倍到了 256 MB，頻寬衝到每秒 2.7 TB，外掛的 LPDDR5 記憶體也加碼到 128 GB。

硬體系統也跟著大改。Meta 設計了專門的機架系統，一個機架能塞進 72 個 MTIA 加速器，走 PCIe 5.0 高速通道，還能按需加裝 RDMA 網絡卡往叢集擴充套件。

軟體跟得上，9 個月就上線接客

自研硬體最怕的是做出來沒人會寫程式碼，或者軟體適配拖個兩三年。作為 PyTorch 的孃家人，Meta 在這方面確實佔盡了便宜。

他們把整套晶片直接接進了 PyTorch 2.0，搞了個 Triton-MTIA 編譯器後端。開發者寫程式碼時基本不用感知底層變動，程式碼還能完全相容第一代晶片。

靠著軟體棧的無縫銜接，新晶片從拿到第一批樣片到在 16 個地區的資料中心跑起線上流量，前後花了不到 9 個月。Meta 在四個關鍵推薦模型上的測試顯示，單晶片效能是上一代的 3 倍；放到機架平臺層面，吞吐量提升了 6 倍，能效比也漲了 1.5 倍。

為什麼重要

對於刷 Instagram 和 Facebook 的普通人來說，這顆晶片最直接的效果，就是資訊流裡的廣告和推薦影片推得更快、算得更準，甚至未來能即時跑一些輕量級的生成式體驗。它雖然不對外賣給開發者，但撐起了 Meta 最核心的變現底盤。

更關鍵的是對整個 AI 晶片行業的影響。現在頂級 GPU 供應極度緊張，一張 H100 動輒幾萬美元。我們認為，Meta 這一步走得相當清醒：它沒打算硬造一顆通用晶片去直接挑戰輝達，而是把最消耗日常資源、商業回報最高的推薦推理業務剝離出來，用自研的高性價比定製晶片接管。

這樣一來，省下的鉅額電費和機櫃空間，以及採購到的寶貴輝達 GPU，就能全部集中調去攻堅大語言模型訓練。看起來，這種專屬晶片搭配通用 GPU 的混合佈局，會成為未來所有超大規模雲廠商的必經之路。