Google Cloud 发布第五代自研 TPU：每美元训练性能翻倍，支持万卡扩展

大家都在抢英伟达 GPU 的时候，Google 掏出了自家打磨多年的秘密武器。

在 Cloud Next 年度大会上，Google Cloud 正式推出了第五代定制芯片 TPU，专门用来跑 AI 模型的训练和推理。

Google 在 2021 年公布了第四代 TPU，但直到 2022 年才真正交到开发者手里。这次拿出第五代，Google 把全部心思都花在了刀刃上：能效和性价比。

算力翻倍，还能把数万张芯片连起来

比起上一代，第五代 TPU 主打一个帮客户省钱。

根据 Google 官方给出的数据，在每一美元的花费下，第五代 TPU 的训练性能提升了 2 倍，推理性能更是直接拔高了 2.5 倍。

Google Cloud 负责计算与机器学习基础设施的副总裁兼总经理 Mark Lohmeyer 直言，这是他们迄今为止最具性价比、也是最容易用上的云端 TPU。

光单卡变强还不够，这次最大的升级在集群扩展能力上。

以往受限于物理架构，算力很难无限堆叠。Mark Lohmeyer 表示，新一代技术允许用户打破单个 TPU Pod 或单个物理集群的界限。

也就是说，单个超大 AI 任务现在可以跨越多个物理集群，直接调度数万颗 TPU 芯片一起工作，而且成本依然可控。

自研不够，下月还送上 H100

除了自研的第五代 TPU，Google 也没把路走窄。

在同一场大会上，Google Cloud 宣布将在下个月让 Nvidia H100 GPU 正式面向开发者商用，搭载在自家的 A3 系列虚拟机里。

用 Google 的话说，不管是喜欢云端 GPU 还是偏好自家 TPU，他们要给不同需求的 AI 开发者提供足够的灵活性和选择权。

为什么重要

对正在训练大模型的开发者和企业来说，算力贵、算力缺是眼下最要命的痛点。Google 给出 2 倍到 2.5 倍的每美元性价比提升，意味着花同样的预算，模型可以多跑几轮迭代，或者把推理部署的成本大幅砍下来。

更关键的是对数万颗芯片的跨集群扩展支持。大模型参数量越来越恐怖，单机或单 Pod 很快就会撞墙，能平滑跨集群扩展，才算拿到了入局超大模型训练的门票。

我们认为，Google 这步棋下得非常务实。一边亮出第五代 TPU 展示自研硬件肌肉，证明自己不完全依赖英伟达；另一边又在下个月迅速把英伟达 H100 推向商用，不把英伟达生态的客户往外推。

这种双轨策略一方面能缓解行业 GPU 供应链紧缺的压力，另一方面也给了云厂商博弈的筹码。不过自研芯片的生态迁移成本向来不低，开发者愿不愿为了性价比从 CUDA 体系切过来，依然是 Google 接下来要面对的现实阻力。