Google 发布第七代 TPU Ironwood：首款专为推理设计的自研芯片

过去大半年，几乎所有做大模型的人都在为一个新问题头疼：模型会「思考」了，但算力吃不消了。

以前大模型回答问题，敲完回车几百个字就吐出来了；现在的推理模型要在背后反复检索、自我纠错、多步推理，消耗的算力比过去暴涨。在 Google Cloud Next 25 大会上，Google 拿出了应对这个局面的关键武器：第七代 TPU 芯片 Ironwood。

这也是 Google 第一次明确把一款 TPU 定义为「专为推理时代而生」的芯片，预计在今年晚些时候正式上线。

专治「爱思考」的模型

Ironwood 最核心的升级，全部冲着现代大模型的痛点去：内存和吞吐带宽。

大模型推理最怕卡在数据搬运上。Ironwood 单颗芯片塞进了 192 GB 的高带宽内存（HBM），是上一代 Trillium 的整整 6 倍。它的内存带宽达到每秒 7.37 TB，也是上一代的 4.5 倍。

芯片之间的互联带宽提升到双向每秒 1.2 TB。同时，Google 还给它配了增强版的 SparseCore，专门用来加速搜索排序和超大规模嵌入计算。

堆出这种规格，目的只有一个：让大参数量模型和混合专家架构（MoE）把更多参数直接留在高速缓存里，尽量少在芯片和主存之间倒腾数据。

单个集群干出 24 倍超级计算机的算力

面向企业部署，Google 提供了两种规格：基础的 256 芯片配置，以及顶配的 9,216 芯片集群。

那个全液冷的 9,216 芯片集群，占了将近 10 兆瓦的电力，算力总计达到 42.5 Exaflops。这个数字相当于全球头号超级计算机 El Capitan（1.7 Exaflops）的 24 倍还多。单颗芯片的峰值算力为 4,614 TFLOPs。

算力虽然拉得极高，但功耗效率成了最大亮点。Ironwood 的每瓦性能比去年的 Trillium 翻了一倍；如果和 2018 年 Google 的初代云端 TPU 比，能效比提高了近 30 倍，性能更是狂飙了 3,600 倍。

软件层面，Google 搬出了 DeepMind 开发的 Pathways 运行时，声称能把数十万颗 Ironwood 串联在一起协同工作，给接下来的 Gemini 2.5 系列模型和科学计算打底。

为什么重要

我们认为，Ironwood 的亮相标志着云巨头之间的 AI 战火彻底烧到了「后训练与推理端」。

过去两年行业比拼的是谁能买到更多英伟达卡去训基础模型，而现在比的是谁能把推理成本降下来，让每天几十亿次的 AI 交互跑得起。Google 自家的 Gemini 已经接入了 15 个用户数过 5 亿的产品，如果全用昂贵的通用 GPU 跑推理，成本账根本算不过来。

对开发者和企业来说，这意味着未来用 Google Cloud 跑超大 MoE 架构或复杂推理智能体，单位成本和延迟有希望显著下降。尤其 192 GB 的显存规格，让很多大模型可以直接单卡或小集群部署，省去了极度复杂的切片开销。

但这套体系的隐患同样明显：它被牢牢锁死在 Google 的生态里。无论是 Pathways 运行时还是 TPU 架构，迁移门槛都极高，用户很难像用通用 GPU 那样在不同云厂商之间无缝横跳。Google 正在用极具吸引力的能效比和算力参数，构筑一条排他性极强的护城河。