Intel 发布 Gaudi 3：宣称部分大模型表现比英伟达 H100 快 1.7 倍

现在买不到英伟达 H100 的人，可能很快就会多一个备选方案。

在 Phoenix 举办的 Vision 2024 大会上，Intel 正式拿出了新一代 AI 加速芯片 Gaudi 3。矛头非常明确，发布会上的几乎每一张 PPT，都在照着英伟达市占率最高的王牌芯片 H100 打。

拼堆料：两颗芯片拼一块，性能要压 H100

Gaudi 3 沿用了上一代 Gaudi 2 的架构思路，但把代工工艺从台积电的 7 纳米升级到了 5 纳米。

它的内部结构其实很有意思，是由两颗完全相同的硅片通过高带宽连接拼在一起的。整颗芯片塞进了 64 个可编程张量核心、8 个矩阵乘法引擎，还有 96MB 的片上中央缓存。

显存规格方面，Gaudi 3 配备了最高 128GB 的 HBM2e 显存，带宽达到 3.7 TB/s，整卡功耗为 900W。

根据 Intel 公布的基准测试，在训练大语言模型时，Gaudi 3 跑 OpenAI 的 GPT-3 175B 和 Meta 的 Llama 2 7B 比 H100 快 50%，某些场景下甚至号称快 1.7 倍。而在做推理任务时，跑 Llama 2 和 Falcon 180B 同样宣称比 H100 提速 50%。

除了速度，Intel 还特意挑了能效做文章，宣称 Gaudi 3 的能源效率最高能达到 H100 的 2.3 倍。

目前风冷版本的 Gaudi 3 已经开始给合作伙伴送样，预计第三季度大批量出货，更激进的液冷版本则要等到第四季度。

挑软柿子捏？英伟达的新卡可没闲着

不过，细看这份成绩单，外界的质疑声也不少。

首先是测试细节不透明，Intel 并没有公开他们到底拿哪款规格的 H100 平台做的对比，配套的系统硬件细节也没有详细列出。

更关键的问题在于时间差。Intel 拿出来比的 H100 确实是目前市场上卖得最好的芯片，但英伟达的下一代产品早就排着队准备登场了。

纸面参数更强的 H200 预计第二季度就会出货，全新的 Blackwell 架构 B200 也已经正式发布。等 Gaudi 3 在下半年大面积铺开时，它真正要交手的可能已经不是 H100 了。

价格也是个悬念。Intel 这次并未公布 Gaudi 3 的官方售价。作为参考，市面上 H100 据报道售价在 3 万到 4 万美元左右，而 AMD 的竞品 MI300 系列据传售价大约在 1 万到 1.5 万美元。

为什么重要

过去一年里，算力短缺让所有大模型厂商都吃尽了苦头。微软、Meta 甚至 OpenAI 都传出在自研芯片，但远水解不了近渴。

对于需要搭建大模型训练集群的中大型企业来说，Gaudi 3 值不值得买，关键就在于现货供应能力和最终报价。如果它的定价能像 AMD MI300 看齐，同时供货稳定，很多苦于等不到英伟达配额的团队完全有动力拿它来顶上。

从行业竞争来看，我们认为 Intel 这次瞄准 H100 是个务实的商业策略。打不过还未上市的 Blackwell 没关系，只要能在 H100 统治的庞大存量市场里咬下一块肉，就能稳住自己的数据中心基本盘。

但 Intel 的隐患依然在软件生态。英伟达最宽的护城河不是芯片本身，而是 CUDA。Gaudi 3 硬件参数再漂亮，客户要把跑在 CUDA 上的模型迁移过来，依然需要付出不小的适配成本。

看起来，Intel 走出了很有战斗力的一步，但算力霸权的更迭，从来不只靠发布会上的几张性能对比图。