Google 发布两款第八代 TPU：8i Max 算力翻倍，8tx 主打机密计算

以前芯片厂商发布新硬件，往往要憋上两三年才推出一代全新的制程或架构。但 Google 最近却在疯狂提速，一年之内在同个第八代架构上连发了四款不同的系统。

这次登场的是 TPU 8tx 和 TPU 8i Max。这两款系统不是全新一代的硅片，而是 Google 拿现有的第八代处理器按需“拼积木”拼出来的：换上不同的封装、互联网络和内存配置，专门盯准了现在大热的 AI Agent 场景。

8tx 管数据安全，8i Max 治内存焦虑

先看 TPU 8tx，它主攻的是受监管的企业和政府机构，核心卖点是机密计算。

通常情况下，敏感数据在存储和传输时都可以加密，但一旦送进芯片内存参与计算，就必须先解密。TPU 8tx 想填补的正是这个空白，按 Google 的说法，即使在活跃运行期间，数据和模型权重也能全程保持加密和物理隔离状态。这直接对标了 Nvidia GPU 现有的机密计算能力。

在网络上，8tx 换上了 Google 原本为实时推理开发的 Boardfly 低延迟网络，延迟表现据称比之前的 TPU 8t 最多能降低一倍。企业可以直接在单套系统里完成模型微调、大模型蒸馏，以及用强化学习训练 Agent，全程不需要在不同集群之间挪动敏感数据。

TPU 8i Max 解决的则是另一个让人头疼的痛点：内存带宽瓶颈。

当 AI Agent 需要同时处理百万 token 的超长上下文、整套庞大的代码库或者几个小时的视频时，显存容量和带宽往往最先撞墙。Google 的解法简单粗暴，直接在单个封装里塞进了两颗 TPU 8i 芯片。

这么做的好处很直接：在完全相同的机柜空间里，算力、内存容量和内存带宽统统直接翻倍，让机房每平方米的算力密度拉到了极高水平。

拼积木式硬件，配上 PyTorch 绿灯

这种硬件迭代逻辑挺有意思。Google 不再等几年才大改一次芯片，而是把底层硅片做成模块化平台，几星期或几个月就能按工作负载定制出新的变种系统。

光有硬件还不够，Google 这次还在拼命帮开发者降低迁移门槛。为了打消大家“用 TPU 必须重写代码”的顾虑，Google 开源了 TorchTPU，让大部分 PyTorch 代码几乎不用改动就能跑在 TPU 上。同时，社区里最常用的推理框架如 vLLM 和 SGLang 也已经完成适配。

这些举措背后的战略意图很明显：Google 的自研芯片正在从原本关起门来内部自用，加速转向面向公有云外部客户销售，目前他们拿下的外部 TPU 客户已经接近 100 家。

为什么重要

对开发者和企业来说，这意味着多了一个极具性价比且合规性极高的硬件选择。金融、政务和医疗等对数据隐私极其严苛的行业，终于有了不用担心内存明文泄露的专属算力；而做超长多模态 Agent 的团队，也能在单机柜里塞进更多上下文。

在行业层面，AI 算力战局的风向正在发生根本性转变。昂贵的模型预训练不再是唯一的烧钱主战场，模型上线后的日常推理运营正在消耗绝大部分算力预算。在长线推理场景下，专为特定负载优化的 ASIC 芯片在成本和能效上往往比通用 GPU 更有杀伤力。

这也是为什么微软、亚马逊、OpenAI 都在全力自研加速芯片，而 Nvidia 甚至急着通过人才收购和技术授权联手 Groq 来补齐低延迟推理短板。

我们认为，Google 这次在现有芯片基础上玩模块化快速出牌的打法非常聪明，既避开了流片新芯片的高昂成本和漫长周期，又精准切中了 Agent 时代的落地痛点。不过，真正的隐患依然在于软件生态的长期稳定性。虽然 TorchTPU 兼容了 PyTorch，但开发者的使用惯性和 CUDA 多年积累的工具链护城河极其深厚，外部客户愿不愿意彻底把核心业务搬到 TPU 上，还得看实际落地的踩坑成本。