Intel 釋出 Gaudi 3：宣稱部分大模型表現比輝達 H100 快 1.7 倍

現在買不到輝達 H100 的人，可能很快就會多一個備選方案。

在 Phoenix 舉辦的 Vision 2024 大會上，Intel 正式拿出了新一代 AI 加速晶片 Gaudi 3。矛頭非常明確，釋出會上的幾乎每一張 PPT，都在照著輝達市佔率最高的王牌晶片 H100 打。

拼堆料：兩顆晶片拼一塊，效能要壓 H100

Gaudi 3 沿用了上一代 Gaudi 2 的架構思路，但把代工工藝從台積電的 7 奈米升級到了 5 奈米。

它的內部結構其實很有意思，是由兩顆完全相同的矽片通過高頻寬連線拼在一起的。整顆晶片塞進了 64 個可程式設計張量核心、8 個矩陣乘法引擎，還有 96MB 的片上中央快取。

視訊記憶體規格方面，Gaudi 3 配備了最高 128GB 的 HBM2e 視訊記憶體，頻寬達到 3.7 TB/s，整卡功耗為 900W。

根據 Intel 公佈的基準測試，在訓練大語言模型時，Gaudi 3 跑 OpenAI 的 GPT-3 175B 和 Meta 的 Llama 2 7B 比 H100 快 50%，某些場景下甚至號稱快 1.7 倍。而在做推理任務時，跑 Llama 2 和 Falcon 180B 同樣宣稱比 H100 提速 50%。

除了速度，Intel 還特意挑了能效做文章，宣稱 Gaudi 3 的能源效率最高能達到 H100 的 2.3 倍。

目前風冷版本的 Gaudi 3 已經開始給合作伙伴送樣，預計第三季度大批量出貨，更激進的液冷版本則要等到第四季度。

挑軟柿子捏？輝達的新卡可沒閒著

不過，細看這份成績單，外界的質疑聲也不少。

首先是測試細節不透明，Intel 並沒有公開他們到底拿哪款規格的 H100 平臺做的對比，配套的系統硬體細節也沒有詳細列出。

更關鍵的問題在於時間差。Intel 拿出來比的 H100 確實是目前市場上賣得最好的晶片，但輝達的下一代產品早就排著隊準備登場了。

紙面引數更強的 H200 預計第二季度就會出貨，全新的 Blackwell 架構 B200 也已經正式釋出。等 Gaudi 3 在下半年大面積鋪開時，它真正要交手的可能已經不是 H100 了。

價格也是個懸念。Intel 這次並未公佈 Gaudi 3 的官方售價。作為參考，市面上 H100 據報道售價在 3 萬到 4 萬美元左右，而 AMD 的競品 MI300 系列據傳售價大約在 1 萬到 1.5 萬美元。

為什麼重要

過去一年裡，算力短缺讓所有大模型廠商都吃盡了苦頭。微軟、Meta 甚至 OpenAI 都傳出在自研晶片，但遠水解不了近渴。

對於需要搭建大模型訓練叢集的中大型企業來說，Gaudi 3 值不值得買，關鍵就在於現貨供應能力和最終報價。如果它的定價能像 AMD MI300 看齊，同時供貨穩定，很多苦於等不到輝達配額的團隊完全有動力拿它來頂上。

從行業競爭來看，我們認為 Intel 這次瞄準 H100 是個務實的商業策略。打不過還未上市的 Blackwell 沒關係，只要能在 H100 統治的龐大存量市場裡咬下一塊肉，就能穩住自己的資料中心基本盤。

但 Intel 的隱患依然在軟體生態。輝達最寬的護城河不是晶片本身，而是 CUDA。Gaudi 3 硬體引數再漂亮，客戶要把跑在 CUDA 上的模型遷移過來，依然需要付出不小的適配成本。

看起來，Intel 走出了很有戰鬥力的一步，但算力霸權的更迭，從來不只靠釋出會上的幾張效能對比圖。