跳到正文
IFAI

產業動態

造超算訓 Grok 3:馬斯克拉上 Dell 和超微組裝伺服器機架

首次發布 傳播指數 70

Elon Musk 在社交平臺 X 上透露,Dell 和 Super Micro 將為 xAI 正在建造的超算提供伺服器機架。Dell 將負責組裝一半機架,並與 Nvidia 合作打造「AI 工廠」,目標是堆疊 10 萬張 H100 訓練 Grok 3。

為了追趕 OpenAI 和 Google,埃隆·馬斯克給自家 AI 找算力的動作,比很多人預想的還要激進。

馬斯克在社交平臺 X 上公開確認,他的 AI 初創公司 xAI 正在建造超級計算機,而這臺算力怪獸的伺服器機架,將由戴爾科技和超微電腦兩家分工搞定。戴爾負責組裝其中一半的機架,另一半則交給了超微。

戴爾和超微各分一半,瞄準 10 萬張 H100

戴爾 CEO 邁克爾·戴爾隨後在 X 上曬出照片,稱他們正在與輝達聯手打造一座「AI 工廠」,專門用來驅動 xAI 下一代的 Grok 模型。

總部位於舊金山的超微也向路透社確認了這一合作。超微一直以和輝達的緊密繫結以及液冷散熱方案見長,這也正好切中了當下超算最頭疼的發熱難題。

馬斯克對算力的飢渴早有鋪墊。今年早些時候他曾透露,訓練 Grok 2 大概用了 2 萬塊輝達 H100 晶片,而到了 Grok 3 以及後續版本,這個數字直接飆升到了 10 萬塊。

據 The Information 之前披露的訊息,馬斯克計劃在 2025 年秋季前讓這臺超級計算機正式運轉。還有報道提到,有人曾在田納西州孟菲斯看到馬斯克現身,據傳這座超算工廠可能就選址在那裡。

為什麼重要

對普通使用者和關注 Grok 的人來說,這意味著短期內 Grok 還不會突然拉開質的差距,真正的爆發點要等到 2025 年下半年。如果這套叢集按時點火,屆時 Grok 的多模態與邏輯推理上限會大幅提升,但也意味著使用者還要耐著性子再等一年多。

在我們看來,馬斯克把訂單直接劈成兩半的做法非常聰明。10 萬張頂級算力卡的交付週期和系統整合難度極高,把雞蛋放在戴爾和超微兩個籃子裡,既能倒逼兩家代工廠比拼交付速度,又能利用超微在液冷上的積累,同時借戴爾的大規模製造體系分攤風險。

對行業而言,算力軍備競賽的門檻已經被推到了不可思議的量級。以前幾千張卡就能做大模型創業,現在頭部玩家直接以 10 萬張卡為單位建工廠。

但隱患同樣明顯。一口氣吃下 10 萬張卡,最大的瓶頸往往不是買不買得起,而是電網能不能抗住、液冷管道會不會漏液、以及成千上萬張卡併網時的通訊損耗。孟菲斯的電力基礎設施能不能撐住馬斯克的野心,看起來會是他明年秋天前必須跨過的一道硬槓子。

來源 (4)

  1. [1]
    fastcompany.com(在新分頁開啟)原文fastcompany.com
  2. [2]
  3. [3]
  4. [4]

話題追蹤xAI Grok 模型開發與基礎設施建設

這個話題的歷次新聞,最新的在上面。

  1. 馬斯克啟用全球最強 AI 叢集:10 萬張液冷 H100 訓下代 Grok
  2. 馬斯克預告 Grok 2 於 8 月釋出:清洗訓練資料,年底還要上 Grok 3
  3. 造超算訓 Grok 3:馬斯克拉上 Dell 和超微組裝伺服器機架本則

每日 AI 內容精選