AMD 联手 Hugging Face：全面优化 CPU 与 GPU，transformers 接入 ROCm

过去这几年，做深度学习的人基本都在为同一件事发愁：英伟达的显卡太贵，而且根本买不到。

在旧金山举办的 AMD 数据中心与 AI 技术发布会上，Hugging Face 首席执行官 Clement Delangue 登台宣布，AMD 正式加入 Hugging Face 的硬件合作伙伴计划。

双方要联手解决的，就是开发者最头疼的算力垄断与高成本问题，让开源社区的主流模型在 AMD 的全线硬件上跑得更快、更便宜。

从企业级 GPU 到普通台式机 CPU 全覆盖

这次合作的硬件覆盖面非常广，并不局限于机房里的专用 AI 加速芯片。

在 GPU 方面，双方首先会针对企业级的 Instinct MI2xx 和 MI3xx 系列展开优化，随后再下沉到消费级的 Radeon Navi3x 系列显卡。AMD 披露的初步测试显示，MI250 在训练 BERT-Large 时的速度比直接竞品快 1.2 倍，训练 GPT2-Large 时快 1.4 倍。

在 CPU 方面，双方将针对消费级的 Ryzen 处理器和服务器端的 EPYC 处理器优化推理性能。结合量化等模型压缩技术，CPU 完全可以在许多日常场景下承担起 Transformer 的推理任务。

此外，功耗更低、性能强劲的 Alveo V70 AI 加速卡也在此次支持清单中。

接入 ROCm，主流大模型开箱即用

对开发者来说，光有硬件没用，最怕的是代码迁不过去、到处报错。

双方这次最关键的技术动作，是把 AMD 的 ROCm SDK 深度集成到 Hugging Face 的开源库中，第一步就是大家最常用的 transformers 库。

他们计划支持的模型几乎涵盖了主流领域，包括 BERT、CLIP、Wav2Vec2 等视觉和语音模型，以及 LLaMA、StarCoder、BLOOM、OPT、T5 等热门生成式大语言模型。传统视觉模型 ResNet 以及推荐系统模型也会得到支持。

双方还会联合验证 PyTorch、TensorFlow 和 ONNX Runtime 三大框架的兼容性。未来 Hugging Face 还会推出专门面向 AMD 平台的 Optimum 扩展库，目标是让开发者几乎不需要改动代码，就能把模型无缝迁移到 AMD 硬件上。

为什么重要

现在 AI 开发者和中小企业面临的最大难题，就是英伟达生态的深度绑定带来的高昂开销。算力价格居高不下，供应链又长期紧绷，大家早就迫切需要一个能打的第二选择。

AMD 这次直接找准了开源生态的核心入口。在 AI 领域，Hugging Face 就是全世界开发者下载模型、微调部署的大本营。只要 transformers 库和 Optimum 把 ROCm 适配好，开发者就不需要痛苦地重写底层代码，迁移成本会大幅降低。

不过挑战依然存在。ROCm 过去在社区里的口碑一直受限于生态支持不够完善、报错排查繁琐。这次合作能不能真正打动普通开发者，全看代码能不能真正做到「开箱即用」。

我们认为，这一步对整个行业是一场及时雨。不管 AMD 最终能抢下多少份额，只要它在性价比和可用性上形成有效竞争，就能倒逼整个 AI 算力市场回归更合理的价格区间。