微軟釋出自研推理晶片 Maia 200：台積電 3nm 工藝，價效比提升 30%

雲巨頭們在輝達身上砸了成百上千億美元后，終於把算盤打到了最後一步：哪怕模型訓練還得靠外部晶片，每天吐出幾百億個 token 的推理賬單，必須用自研晶片省下來。

微軟正式端出了第二代自研 AI 推理晶片 Maia 200。這款晶片基於台積電 3 奈米工藝打造，單顆晶片集成了超過 1400 億個電晶體，在 750W 的功耗控制下，原生 FP4 算力突破 10 petaFLOPS，原生 FP8 算力超過 5 petaFLOPS。

微軟直接把友商拉出來對比：Maia 200 的 FP4 效能達到了亞馬遜第三代 Trainium 的 3 倍，FP8 效能也壓過了 Google 第七代 TPU。放在微軟自家的雲基礎設施裡看，它的每美元效能比目前機隊裡最新一代硬體高出 30%。

專為大模型吞吐設計的記憶體與乙太網路

做大模型推理的人都知道，算力數字往往只是擺設，真正的瓶頸在於怎麼把資料喂進核心。Maia 200 這次把重點全押在資料搬運上。

每顆晶片配備了 216GB 的 HBM3e 記憶體，頻寬達到 7 TB/s，片上還塞進了 272MB 的 SRAM。搭配專門的窄精度 DMA 引擎與片上網路，核心目的就是消除視訊記憶體牆，讓大模型在生成 token 時不用空轉等資料。

網路架構也很有意思。微軟沒有碰昂貴的專有網路互聯協議，而是基於標準乙太網路搞了一套雙層 scale-up 網路設計。每張托盤裡的 4 顆晶片通過直連無交換鏈路完全互聯，整顆晶片提供 2.8 TB/s 的雙向專屬頻寬，單叢集最大可以擴充套件到 6144 顆晶片。

微軟還透露，他們採用了第二代閉環液冷換熱系統，並且在晶片流片前就通過高精度模擬器完成了全鏈路驗證。結果是從拿到第一批封裝晶片到直接掛載進資料中心機架，時間縮短了一半以上，幾天內就把大模型跑了起來。

這批晶片目前已經在微軟位於愛荷華州得梅因附近的 US Central 資料中心上線，下一步將進駐亞利桑那州菲尼克斯附近的 US West 3 資料中心。它們將直接承擔 OpenAI 最新 GPT-5.2 模型的推理任務，支撐 Microsoft 365 Copilot 與 Microsoft Foundry。微軟的超級智慧團隊還會拿它來進行合成數據生成與強化學習。

配套的 Maia SDK 已經開放預覽申請，裡面包含了 Triton 編譯器、PyTorch 原生整合、底層程式語言 NPL，以及專門的晶片模擬器和成本估算工具。

為什麼重要

我們認為，Maia 200 的釋出標誌著超大規模雲廠商的算力競賽進入了精打細算的下半場。

對於日常使用 Microsoft 365 Copilot 的普通使用者或者呼叫 Azure OpenAI 介面的開發者來說，底層換上 Maia 200 或許感知不到介面變化，但中長期的 API 降價和高併發時的響應穩定性，全指望這 30% 的每美元成本降幅。如果你的團隊正打算深度定製 Azure 上的推理負載，現在的 SDK 預覽確實值得去摸索，特別是 Triton 的支援讓從輝達平臺遷移的門檻低了不少。

從行業競爭來看，微軟走了一條非常剋制且精準的路線：它不和輝達搶通吃一切的訓練市場，而是把台積電 3 奈米的昂貴產能全壓在 FP4/FP8 低精度推理、標準乙太網路互聯和大容量 HBM3e 上。推理佔據了 AI 商業化生命週期裡絕大部分的運營成本，微軟如果能把 GPT-5.2 的生成成本砍掉三成，不僅能顯著減輕自身的毛利壓力，還會逼著亞馬遜和 Google 繼續加速迭代自家的自研 ASIC。

不過隱患同樣存在。自研晶片從來不是單純拼硬體引數，軟體生態的坑遠比想像中深。雖然微軟端出了 Triton 編譯器和 PyTorch 支援，但在生產環境的大規模併發排程下，自研乙太網路協議與自定義驅動的穩定性依然需要時間檢驗。看起來微軟這次準備得足夠紮實，但這套自研閉環能不能完全承接住數億企業使用者的真實流量衝擊，接下來幾個月的資料中心表現才是真正的大考。