跳到正文
IFAI

行业动态

AMD 联手 Cerebras:机架搭晶圆芯片,AI 推理能效提升 5 倍

首次发布 传播指数 39

AMD 与 Cerebras 宣布合作推出分离式 AI 推理方案。系统由 AMD Helios 机架处理大上下文 Prompt,再交给 Cerebras 晶圆级引擎高速生成 Token,预计每瓦生成效率提升最高 5 倍。方案专为实时智能体和编程设计,预计 2026 年下半年上线 Cerebras Cloud。

用同一个 GPU 既啃几万字的提示词,又一字一字往外吐答案,现在看越来越像是在让卡车跑短跑。

在 Advancing AI 2026 大会上,AMD 和芯片初创公司 Cerebras 走到了一起。双方宣布达成技术合作,搞了一套解耦式 AI 推理架构:把 AMD 的机架级系统 Helios 和 Cerebras 的晶圆级芯片拼在同一个工作流里。

让卡车拉货,让跑车冲刺

大模型推理其实分成两截,脾气完全不一样。

前一半叫预填充,模型要把你塞进去的提示词和长上下文一次性吞下去,拼的是纯算力和吞吐量。后一半叫解码生成,模型要一个词接一个词往外蹦,极度吃内存带宽和延迟。

过去大家基本都是同一块 GPU 从头跑到尾,结果就是两头不讨好。

这次双方的解法非常直接,分工干活。搭载 AMD Instinct GPU 的 Helios 机架级系统负责前面,利用高吞吐啃下复杂的提示词和超大上下文;Cerebras 那块巨大的晶圆级引擎负责后面,专门搞超低延迟的逐字生成。

官方宣称,这种软硬件拆解后的协同,预计能把每瓦每秒生成的 token 数量提升最高 5 倍。

按计划,Cerebras 会在自己的数据中心里直接部署 AMD Helios 系统,整套联合方案预计在 2026 年下半年通过 Cerebras Cloud 率先向客户开放。

为什么重要

对于正在做智能体、实时代码补全或者实时语音助手的团队来说,这个组合切中了最头疼的痛点。很多多轮反思的智能体应用,模型要在后台反复调工具、查文档、自己跟自己对话,如果单个 token 生成速度不够快,用户端就会卡成幻灯片。

现在想用上它并不用自己买机架,下半年等 Cerebras 云端上线就能直接租用。不过前提是你的业务确实属于对延迟极端敏感的场景,否则常规 GPU 集群可能成本更低。

对整个芯片行业而言,这也是一次非常有趣的结盟。英伟达一直在推全栈绑定的单一架构方案,靠 NVLink 和 CUDA 稳坐钓鱼台。AMD 选择和激进的晶圆级芯片公司联手,相当于撕开了一条异构分工的新路线:不跟你在单一芯片尺寸上硬拼,而是把工作流拆开,各自拿最擅长的硬件去打。

我们认为,这步棋走得相当务实。AMD 补上了 Cerebras 最欠缺的大规模系统化吞吐和数据中心现成生态,Cerebras 则帮 AMD 拿下了全球极少数能做到毫秒级极速吐字的招牌。隐患在于两套硬件之间的数据搬运开销,解耦虽然理论上很美,但跨机架、跨架构传输 KV 缓存的开销如果没抹平,实际性能就要打折扣。这套组合拳到底能不能真正撬动英伟达的推理基本盘,下半年云端上线后的真实测试才是试金石。

来源 (1)

  1. [1]
    cerebras.ai(在新标签页打开)原文cerebras.ai

每日 AI 内容精选