AMD 聯手 Cerebras：機架搭晶圓晶片，AI 推理能效提升 5 倍

用同一個 GPU 既啃幾萬字的提示詞，又一字一字往外吐答案，現在看越來越像是在讓卡車跑短跑。

在 Advancing AI 2026 大會上，AMD 和晶片初創公司 Cerebras 走到了一起。雙方宣佈達成技術合作，搞了一套解耦式 AI 推理架構：把 AMD 的機架級系統 Helios 和 Cerebras 的晶圓級晶片拼在同一個工作流裡。

讓卡車拉貨，讓跑車衝刺

大模型推理其實分成兩截，脾氣完全不一樣。

前一半叫預填充，模型要把你塞進去的提示詞和長上下文一次性吞下去，拼的是純算力和吞吐量。後一半叫解碼生成，模型要一個詞接一個詞往外蹦，極度吃記憶體頻寬和延遲。

過去大家基本都是同一塊 GPU 從頭跑到尾，結果就是兩頭不討好。

這次雙方的解法非常直接，分工幹活。搭載 AMD Instinct GPU 的 Helios 機架級系統負責前面，利用高吞吐啃下複雜的提示詞和超大上下文；Cerebras 那塊巨大的晶圓級引擎負責後面，專門搞超低延遲的逐字生成。

官方宣稱，這種軟硬體拆解後的協同，預計能把每瓦每秒生成的 token 數量提升最高 5 倍。

按計劃，Cerebras 會在自己的資料中心裡直接部署 AMD Helios 系統，整套聯合方案預計在 2026 年下半年通過 Cerebras Cloud 率先向客戶開放。

為什麼重要

對於正在做智慧體、即時程式碼補全或者即時語音助手的團隊來說，這個組合切中了最頭疼的痛點。很多多輪反思的智慧體應用，模型要在後臺反覆調工具、查文件、自己跟自己對話，如果單個 token 生成速度不夠快，使用者端就會卡成幻燈片。

現在想用上它並不用自己買機架，下半年等 Cerebras 雲端上線就能直接租用。不過前提是你的業務確實屬於對延遲極端敏感的場景，否則常規 GPU 叢集可能成本更低。

對整個晶片行業而言，這也是一次非常有趣的結盟。輝達一直在推全棧繫結的單一架構方案，靠 NVLink 和 CUDA 穩坐釣魚臺。AMD 選擇和激進的晶圓級晶片公司聯手，相當於撕開了一條異構分工的新路線：不跟你在單一晶片尺寸上硬拼，而是把工作流拆開，各自拿最擅長的硬體去打。

我們認為，這步棋走得相當務實。AMD 補上了 Cerebras 最欠缺的大規模系統化吞吐和資料中心現成生態，Cerebras 則幫 AMD 拿下了全球極少數能做到毫秒級極速吐字的招牌。隱患在於兩套硬體之間的資料搬運開銷，解耦雖然理論上很美，但跨機架、跨架構傳輸 KV 快取的開銷如果沒抹平，實際效能就要打折扣。這套組合拳到底能不能真正撬動輝達的推理基本盤，下半年雲端上線後的真實測試才是試金石。