AMD 正式推出 MI300 芯片:推理性能超 H100,正面叫板英伟达
AMD 推出 Instinct MI300X 加速卡与 MI300A APU,瞄准大模型训练与推理。官方称其在运行 Llama 2 时推理性能是英伟达 H100 的 1.4 倍,微软与 Meta 均已确认采用;同时发布的还有集成 NPU 的 Ryzen 8040 笔记本芯片。

过去一年多,所有做大模型的人几乎都在为同一件事发愁:去哪儿抢到英伟达的 H100。现在,AMD 带着新武器正式下场掀桌子了。
AMD 正式发布了针对大语言模型的 Instinct MI300 系列加速芯片,包括 MI300X GPU 和 MI300A APU,同时还带来了面向笔记本电脑的锐龙 8040 移动处理器。这家芯片老牌大厂摆明了要证明,AI 芯片市场绝不是英伟达一家的独角戏。
跑 Llama 2 比 H100 还要快 40%
发布会上的主角无疑是 Instinct MI300X 加速卡。AMD 称它的显存容量比前代 MI250X 提升了 1.5 倍,能效也明显改善。
AMD CEO 苏姿丰在现场直接放话,称 MI300X 是目前全球性能最强的加速卡。按照她的说法,MI300X 在训练大语言模型时与英伟达 H100 旗鼓相当,但在推理环节表现更胜一筹,在运行 Meta 的 700 亿参数大模型 Llama 2 时,推理性能达到 H100 的 1.4 倍。
大客户也迅速站台背书。微软首席技术官 Kevin Scott 亲自现身,宣布基于该芯片的 Azure ND MI300X 虚拟机正式开启公开预览。Meta 也明确表示,正在其数据中心部署 MI300 系列处理器。
连 CPU 和 GPU 都打包了,笔记本也没落下
除了纯 GPU 加速卡,AMD 还推出了面向数据中心的 MI300A APU。它把 CPU 和 GPU 塞进同一颗芯片,采用统一内存设计,彻底省去了数据在不同设备之间来回搬运的延迟与损耗。
AMD 称 MI300A 的显存容量是 H100 的 1.6 倍,能效提升更是高达 30 倍。这款芯片目前已经量产,并将为劳伦斯利弗莫尔国家实验室由惠普建造的 El Capitan 超算提供算力,该超算性能预计将超过 2 exaflops。苏姿丰估计,这一市场潜在规模将达到 450 亿美元,不过 AMD 暂未公布具体售价。
在端侧,AMD 推出了锐龙 8040 系列移动处理器,内置 NPU,AI 处理性能比上一代提升 1.6 倍。AMD 声称其视频编辑速度比英特尔竞品快 65%,游戏性能快 77%。包括联想、华硕、戴尔、惠普在内的厂商预计在 2024 年第一季度出货相关笔记本电脑。
AMD 还全面开放了 Ryzen AI 软件平台,支持 Whisper 语音识别和 Llama 2 模型,允许开发者将任务卸载给 NPU 以降低功耗,并预告下一代 Strix Point 架构将于 2024 年推出。
为什么重要
对开发者和企业来说,最直接的价值在于终于多了一个有力的替代方案。过去大家不得不忍受 H100 的高昂溢价和漫长排期,现在无论是在 Azure 上开虚机部署 Llama 2,还是在本地笔记本上调试轻量模型,门槛都在实质性降低。
在行业层面,这打响了打破英伟达垄断的第一枪。微软和 Meta 迅速采购部署,并不是因为 AMD 的硬件已经全面碾压对手,而是因为这些算力大户极度渴望扶持第二家供应商,削弱英伟达的议价权。
我们认为,AMD 这次切入的角度非常聪明。它没有硬碰英伟达用 CUDA 构筑的训练壁垒,而是抓住了大模型全面走向商业落地、对推理成本与大显存极度敏感的时间节点,靠更大的内存容量和推理性价比打差异化。不过,隐患依然在软件生态上,硬件纸面参数再强,如果开发者的适配迁移成本太高,AMD 想要真正啃下英伟达的万亿护城河,还有一场硬仗要打。
来源 (1)
- theverge.com(在新标签页打开)原文theverge.com