AMD 宣布 EPYC 9006:最高 256 核,智能体 AI 性能高出 Intel 174%
AMD 宣布推出第 6 代 EPYC 9006 服务器 CPU。新芯片基于台积电 2nm 制程与 Zen 6 架构,单插槽提供最高 256 核与 512 线程。AMD 称在任务编排、检索与工具调用等智能体 AI 工作负载中,其性能比 Intel Xeon 6980P 高出 174%。
现在只要聊起 AI,大家的目光全被动辄几万美元的 GPU 抢走了。但要是真把一个多步骤协作的 AI 智能体放进生产环境,很多工程师会突然发现,服务器里的 CPU 居然先撑不住了。
AMD 公布了代号为 Venice 的第 6 代 EPYC 9006 系列服务器处理器。这一代芯片直接拉满了堆料规格,用上台积电 2nm 工艺与 Zen 6 架构,单插槽最高塞进了 256 颗核心与 512 个线程。
除了核心数量翻倍,底层的吞吐规格也全面升级。EPYC 9006 拥有 16 通道 DDR5 内存架构,支持传输速率高达 12,800 MT/s 的 JEDEC 标准 MRDIMM,并且支持最新的 PCIe Gen 6 传输总线。
智能体干脏活,CPU 成了真正的调度中枢
AMD 这次没有把重点放在传统的大模型矩阵乘法上,而是精准切中了正在爆发的智能体工作流。
过去单次提问的推理场景里,CPU 往往只负责把数据倒手交给加速卡。但智能体完全是另一种玩法,它要处理用户网关解析、多轮上下文拼接、路由决策、向量检索、数据库查询,还要频繁拉起临时沙盒执行工具和代码,最后再验证结果。
在这些端到端环节里,除了纯粹的模型思考交给 GPU 之外,剩下的重活累活全压在 CPU 和内存总线上。
针对这些以 CPU 为核心的智能体编排与工具调用负载,AMD 给出了一组很惊人的数字。他们声称 EPYC 9006 在智能体端到端工作流中的几何平均性能,比 Intel Xeon 6980P 高出了 174%。
为什么重要
对企业和开发者来说,搭建复杂智能体应用的最大暗坑,往往不是模型生成不够快,而是并发上下文检索和工具调用时的系统拥堵。EPYC 9006 带来的 256 核并发能力和翻倍的内存带宽,意味着一台双路服务器就能支撑起以前整个集群才能吃下的调度负载,非常值得正在自建 Agent 架构的团队关注。
从行业竞争来看,AMD 这一步走得相当犀利。在 GPU 推理端与英伟达正面对决成本极高,但 AMD 敏锐抓住了智能体系统向复合流程演进的窗口期,把 CPU 从加速卡的陪衬重新定义成了流水线引擎,直接在数据中心地盘上对 Intel 形成降维打击。
我们认为,AMD 押注大内存带宽和超多核心的思路完全切中了智能体的运行瓶颈。不过隐患也显而易见,2nm 先进制程配合 16 通道 MRDIMM 的整机部署成本绝不会便宜,企业在采购时必须仔细核算,自己的智能体调用规模到底能不能喂饱这只算力怪兽。
来源 (1)
- amd.com(在新标签页打开)原文amd.com