跳到正文
IFAI

行业动态

Tesla 启动 1 万张 H100 超算集群:算力超越全球第四,专攻 FSD

首次发布 传播指数 41

Tesla 正式启动配备 10000 张 Nvidia H100 GPU 的全新 AI 超算集群。该集群提供 340 FP64 PFLOPS 算力,超越全球第四大超算 Leonardo,专门用来加速训练 FSD 自动驾驶。加上自研的 Dojo,Tesla 正在全力打破自动驾驶的算力瓶颈。

Tesla 启动 1 万张 H100 超算集群:算力超越全球第四,专攻 FSD
图:tomshardware.com

为了教会自家的汽车看懂马路,特斯拉刚把一万块顶配显卡接上了电网。

特斯拉正式上线了一套价值约 3 亿美元的全新 AI 超算集群。这套系统由 10000 块英伟达 H100 计算卡堆叠而成,主要用来训练特斯拉的全自动驾驶(FSD)系统。上线之后,特斯拉直接坐拥全球最顶尖的超算之一。

10000 块 H100 跑真实世界视频

单看纸面参数,这套集群的双精度浮点性能达到 340 FP64 PFLOPS,用于 AI 任务的算力则达到 39.58 INT8 ExaFLOPS。作为对比,全球第四大超算 Leonardo 的性能是 304 FP64 PFLOPS,特斯拉的新集群在传统算力指标上甚至略微压过了它。

特斯拉这么急着砸钱堆卡,核心原因在于自动驾驶模型实在太吞算力了。

特斯拉 AI 基础设施工程经理 Tim Zaman 透露,因为每天都在用海量的真实世界车载视频跑训练,特斯拉手里可能攥着全球最大的训练数据集。他们光是高速缓存(hot tier cache)容量就超过了 200PB,规模比目前主流的大语言模型高出整整几个数量级。

一边等英伟达交货,一边造 Dojo

然而,光有钱也买不够英伟达的显卡。H100 在市场上严重缺货,提货周期被拉得极长。

所以特斯拉早在几年前就押注了两条腿走路。除了向英伟达采购,他们还砸下超过 10 亿美元研发自家的 Dojo 超算。Dojo 基于自研的定制专用芯片,既用来加速 FSD 训练,也会接管特斯拉车队庞大的日常数据吞吐。

马斯克近期透露,特斯拉仅在 2023 年就计划向 AI 训练砸入超过 20 亿美元,2024 年还要再花 20 亿美元专供 FSD 相关的计算。这次把一万块 H100 真正点亮,只是他们这轮算力扩张的第一步。

为什么重要

我们认为,特斯拉点亮这一万块 H100 集群,不仅是在秀算力肌肉,更是把车企之间的竞争规则彻底改写成了纯粹的算力竞赛。

对普通车主来说,这意味着 FSD 的版本迭代周期会明显缩短。过去受制于算力瓶颈,端到端大模型的参数规模和训练轮次都受限,现在 200PB 的真实视频数据能被更快消化,车主有望在接下来的版本更新里看到更平顺的接管表现。

对传统车企而言,这几乎是一场降维打击。当传统厂商还在按年为周期更新辅助驾驶算法时,特斯拉已经把每年的算力预算拉到了 20 亿美元量级。没有软件付费生态和庞大车队回传数据的对手,根本不可能跟进这种规模的持续烧钱。

不过,特斯拉的做法也并非没有隐患。一方面,英伟达的产能随时可能变成扩张的绊脚石;另一方面,自研芯片 Dojo 能否在真实场景中无缝承接这批 H100 的工作,目前还要打个问号。但看起来,特斯拉已经铁了心要用算力砸出全自动驾驶的最终解。

来源 (1)

  1. [1]
    tomshardware.com(在新标签页打开)原文tomshardware.com

每日 AI 内容精选