AMD 正式推出 MI300 晶片：推理效能超 H100，正面叫板輝達

過去一年多，所有做大模型的人幾乎都在為同一件事發愁：去哪兒搶到輝達的 H100。現在，AMD 帶著新武器正式下場掀桌子了。

AMD 正式釋出了針對大語言模型的 Instinct MI300 系列加速晶片，包括 MI300X GPU 和 MI300A APU，同時還帶來了面向筆記型電腦的銳龍 8040 移動處理器。這家晶片老牌大廠擺明了要證明，AI 晶片市場絕不是輝達一家的獨角戲。

跑 Llama 2 比 H100 還要快 40%

釋出會上的主角無疑是 Instinct MI300X 加速卡。AMD 稱它的視訊記憶體容量比前代 MI250X 提升了 1.5 倍，能效也明顯改善。

AMD CEO 蘇姿豐在現場直接放話，稱 MI300X 是目前全球效能最強的加速卡。按照她的說法，MI300X 在訓練大語言模型時與輝達 H100 旗鼓相當，但在推理環節表現更勝一籌，在執行 Meta 的 700 億引數大模型 Llama 2 時，推理效能達到 H100 的 1.4 倍。

大客戶也迅速站臺背書。微軟技術長 Kevin Scott 親自現身，宣佈基於該晶片的 Azure ND MI300X 虛擬機器正式開啟公開預覽。Meta 也明確表示，正在其資料中心部署 MI300 系列處理器。

連 CPU 和 GPU 都打包了，筆記本也沒落下

除了純 GPU 加速卡，AMD 還推出了面向資料中心的 MI300A APU。它把 CPU 和 GPU 塞進同一顆晶片，採用統一記憶體設計，徹底省去了資料在不同裝置之間來回搬運的延遲與損耗。

AMD 稱 MI300A 的視訊記憶體容量是 H100 的 1.6 倍，能效提升更是高達 30 倍。這款晶片目前已經量產，並將為勞倫斯利弗莫爾國家實驗室由惠普建造的 El Capitan 超算提供算力，該超算效能預計將超過 2 exaflops。蘇姿豐估計，這一市場潛在規模將達到 450 億美元，不過 AMD 暫未公佈具體售價。

在端側，AMD 推出了銳龍 8040 系列移動處理器，內建 NPU，AI 處理效能比上一代提升 1.6 倍。AMD 聲稱其影片編輯速度比英特爾競品快 65%，遊戲效能快 77%。包括聯想、華碩、戴爾、惠普在內的廠商預計在 2024 年第一季度出貨相關筆記型電腦。

AMD 還全面開放了 Ryzen AI 軟體平臺，支援 Whisper 語音識別和 Llama 2 模型，允許開發者將任務解除安裝給 NPU 以降低功耗，並預告下一代 Strix Point 架構將於 2024 年推出。

為什麼重要

對開發者和企業來說，最直接的價值在於終於多了一個有力的替代方案。過去大家不得不忍受 H100 的高昂溢價和漫長排期，現在無論是在 Azure 上開虛機部署 Llama 2，還是在本地筆記本上除錯輕量模型，門檻都在實質性降低。

在行業層面，這打響了打破輝達壟斷的第一槍。微軟和 Meta 迅速採購部署，並不是因為 AMD 的硬體已經全面碾壓對手，而是因為這些算力大戶極度渴望扶持第二家供應商，削弱輝達的議價權。

我們認為，AMD 這次切入的角度非常聰明。它沒有硬碰輝達用 CUDA 構築的訓練壁壘，而是抓住了大模型全面走向商業落地、對推理成本與大視訊記憶體極度敏感的時間節點，靠更大的記憶體容量和推理價效比打差異化。不過，隱患依然在軟體生態上，硬體紙面引數再強，如果開發者的適配遷移成本太高，AMD 想要真正啃下輝達的萬億護城河，還有一場硬仗要打。