造超算训 Grok 3:马斯克拉上 Dell 和超微组装服务器机架
Elon Musk 在社交平台 X 上透露,Dell 和 Super Micro 将为 xAI 正在建造的超算提供服务器机架。Dell 将负责组装一半机架,并与 Nvidia 合作打造「AI 工厂」,目标是堆叠 10 万张 H100 训练 Grok 3。
为了追赶 OpenAI 和 Google,埃隆·马斯克给自家 AI 找算力的动作,比很多人预想的还要激进。
马斯克在社交平台 X 上公开确认,他的 AI 初创公司 xAI 正在建造超级计算机,而这台算力怪兽的服务器机架,将由戴尔科技和超微电脑两家分工搞定。戴尔负责组装其中一半的机架,另一半则交给了超微。
戴尔和超微各分一半,瞄准 10 万张 H100
戴尔 CEO 迈克尔·戴尔随后在 X 上晒出照片,称他们正在与英伟达联手打造一座「AI 工厂」,专门用来驱动 xAI 下一代的 Grok 模型。
总部位于旧金山的超微也向路透社确认了这一合作。超微一直以和英伟达的紧密绑定以及液冷散热方案见长,这也正好切中了当下超算最头疼的发热难题。
马斯克对算力的饥渴早有铺垫。今年早些时候他曾透露,训练 Grok 2 大概用了 2 万块英伟达 H100 芯片,而到了 Grok 3 以及后续版本,这个数字直接飙升到了 10 万块。
据 The Information 之前披露的消息,马斯克计划在 2025 年秋季前让这台超级计算机正式运转。还有报道提到,有人曾在田纳西州孟菲斯看到马斯克现身,据传这座超算工厂可能就选址在那里。
为什么重要
对普通用户和关注 Grok 的人来说,这意味着短期内 Grok 还不会突然拉开质的差距,真正的爆发点要等到 2025 年下半年。如果这套集群按时点火,届时 Grok 的多模态与逻辑推理上限会大幅提升,但也意味着用户还要耐着性子再等一年多。
在我们看来,马斯克把订单直接劈成两半的做法非常聪明。10 万张顶级算力卡的交付周期和系统集成难度极高,把鸡蛋放在戴尔和超微两个篮子里,既能倒逼两家代工厂比拼交付速度,又能利用超微在液冷上的积累,同时借戴尔的大规模制造体系分摊风险。
对行业而言,算力军备竞赛的门槛已经被推到了不可思议的量级。以前几千张卡就能做大模型创业,现在头部玩家直接以 10 万张卡为单位建工厂。
但隐患同样明显。一口气吃下 10 万张卡,最大的瓶颈往往不是买不买得起,而是电网能不能抗住、液冷管道会不会漏液、以及成千上万张卡并网时的通信损耗。孟菲斯的电力基础设施能不能撑住马斯克的野心,看起来会是他明年秋天前必须跨过的一道硬杠子。
来源 (4)
- fastcompany.com(在新标签页打开)原文fastcompany.com
- economictimes.indiatimes.com(在新标签页打开)报道economictimes.indiatimes.com
- tech.yahoo.com(在新标签页打开)报道tech.yahoo.com
- itechpost.com(在新标签页打开)报道itechpost.com
话题追踪xAI Grok 模型开发与基础设施建设
- 马斯克启用全球最强 AI 集群:10 万张液冷 H100 训下代 Grok
- 马斯克预告 Grok 2 于 8 月发布:清洗训练数据,年底还要上 Grok 3
- 造超算训 Grok 3:马斯克拉上 Dell 和超微组装服务器机架本条