AMD 聯手 Cerebras:機架搭晶圓晶片,AI 推理能效提升 5 倍
AMD 與 Cerebras 宣佈合作推出分離式 AI 推理方案。系統由 AMD Helios 機架處理大上下文 Prompt,再交給 Cerebras 晶圓級引擎高速生成 Token,預計每瓦生成效率提升最高 5 倍。方案專為即時智慧體和程式設計設計,預計 2026 年下半年上線 Cerebras Cloud。
AMD 與 Cerebras 宣佈合作推出分離式 AI 推理方案。系統由 AMD Helios 機架處理大上下文 Prompt,再交給 Cerebras 晶圓級引擎高速生成 Token,預計每瓦生成效率提升最高 5 倍。方案專為即時智慧體和程式設計設計,預計 2026 年下半年上線 Cerebras Cloud。
在第 43 屆 J.P. 摩根醫療健康大會期間,Mayo Clinic 宣佈聯手微軟研究院與 Cerebras,分別開發多模態影像與基因組基礎模型。團隊計劃讓 AI 自動生成胸片報告,並結合患者外顯子資料預測靶向治療響應,加速類風溼關節炎等疾病的精準診療。
Cerebras 推出 Cerebras Inference 推理服務,跑 Llama 3.1 8B 達每秒 1800 token,比超大規模雲端 GPU 快 20 倍。全程保持原生 16 位精度,8B 模型每百萬 token 僅收 10 美分。高吞吐低延遲讓多步驟智慧體真正具備即時響應能力。