AMD 聯手 Hugging Face：全面最佳化 CPU 與 GPU，transformers 接入 ROCm

過去這幾年，做深度學習的人基本都在為同一件事發愁：輝達的顯示卡太貴，而且根本買不到。

在舊金山舉辦的 AMD 資料中心與 AI 技術釋出會上，Hugging Face 執行長 Clement Delangue 登臺宣佈，AMD 正式加入 Hugging Face 的硬體合作伙伴計劃。

雙方要聯手解決的，就是開發者最頭疼的算力壟斷與高成本問題，讓開源社群的主流模型在 AMD 的全線硬體上跑得更快、更便宜。

從企業級 GPU 到普通桌上型電腦 CPU 全覆蓋

這次合作的硬體覆蓋面非常廣，並不侷限於機房裡的專用 AI 加速晶片。

在 GPU 方面，雙方首先會針對企業級的 Instinct MI2xx 和 MI3xx 系列展開最佳化，隨後再下沉到消費級的 Radeon Navi3x 系列顯示卡。AMD 披露的初步測試顯示，MI250 在訓練 BERT-Large 時的速度比直接競品快 1.2 倍，訓練 GPT2-Large 時快 1.4 倍。

在 CPU 方面，雙方將針對消費級的 Ryzen 處理器和伺服器端的 EPYC 處理器最佳化推理效能。結合量化等模型壓縮技術，CPU 完全可以在許多日常場景下承擔起 Transformer 的推理任務。

此外，功耗更低、效能強勁的 Alveo V70 AI 加速卡也在此次支援清單中。

接入 ROCm，主流大模型開箱即用

對開發者來說，光有硬體沒用，最怕的是程式碼遷不過去、到處報錯。

雙方這次最關鍵的技術動作，是把 AMD 的 ROCm SDK 深度整合到 Hugging Face 的開源庫中，第一步就是大家最常用的 transformers 庫。

他們計劃支援的模型幾乎涵蓋了主流領域，包括 BERT、CLIP、Wav2Vec2 等視覺和語音模型，以及 LLaMA、StarCoder、BLOOM、OPT、T5 等熱門生成式大語言模型。傳統視覺模型 ResNet 以及推薦系統模型也會得到支援。

雙方還會聯合驗證 PyTorch、TensorFlow 和 ONNX Runtime 三大框架的相容性。未來 Hugging Face 還會推出專門面向 AMD 平臺的 Optimum 擴充套件庫，目標是讓開發者幾乎不需要改動程式碼，就能把模型無縫遷移到 AMD 硬體上。

為什麼重要

現在 AI 開發者和中小企業面臨的最大難題，就是輝達生態的深度繫結帶來的高昂開銷。算力價格居高不下，供應鏈又長期緊繃，大家早就迫切需要一個能打的第二選擇。

AMD 這次直接找準了開源生態的核心入口。在 AI 領域，Hugging Face 就是全世界開發者下載模型、微調部署的大本營。只要 transformers 庫和 Optimum 把 ROCm 適配好，開發者就不需要痛苦地重寫底層程式碼，遷移成本會大幅降低。

不過挑戰依然存在。ROCm 過去在社群裡的口碑一直受限於生態支援不夠完善、報錯排查繁瑣。這次合作能不能真正打動普通開發者，全看程式碼能不能真正做到「開箱即用」。

我們認為，這一步對整個行業是一場及時雨。不管 AMD 最終能搶下多少份額，只要它在價效比和可用性上形成有效競爭，就能倒逼整個 AI 算力市場迴歸更合理的價格區間。