报道称 OpenAI 采用 Google TPU：分摊英伟达依赖，降低推理成本

商场上没有永远的敌人，只有买不起的算力。

哪怕 OpenAI 和 Google 在大模型前线打得不可开交，到了算力账单面前，大家还是得坐下来谈生意。据路透社援引知情人士消息，OpenAI 已经开始租用 Google 的 TPU 芯片，用来跑 ChatGPT 等产品的推理任务。这不仅是 OpenAI 首次在底层硬件上大规模走出 Nvidia 的怀抱，也让 Google Cloud 拿到了一张意味深长的订单。

每天一亿人在线，算力账单扛不住了

OpenAI 并不是想彻底甩掉 Nvidia，这件事的真正推手其实是成本。

现在 ChatGPT 每天有超过 1 亿活跃用户在提问，庞大的推理调用正在疯狂吞噬资源。据估算，OpenAI 每年的算力预算高达 400 亿美元，其中很大一部分开销都花在日常推理上。

如果全都用 Nvidia 最顶级的 GPU 来扛日常对话，成本实在太高了。于是 OpenAI 盯上了 Google 的 TPU。

这次通过 Google Cloud 租用的并不是 Google 最顶级的训练芯片，而是代号为 Trillium 的第六代 TPU v6e。这款芯片专门针对稳态推理做了优化，吞吐量高，运营成本却明显低于顶配 GPU，正适合应付成千上万普通用户的日常闲聊。

有意思的是，Google 的外部客户名单正在迅速变长。除了 OpenAI，苹果、Anthropic 以及 Ilya Sutskever 创立的 Safe Superintelligence，都在向 Google 租 TPU。

微软后院借火，还得越过 CUDA 这座山

对 OpenAI 来说，这也是在给自己找退路。

目前 OpenAI 的算力底座依然死死绑在微软 Azure 上，毕竟微软是它最大的金主。但过去两年 GPU 严重供不应求，加上单片价格高企，把所有身家押在单一供应商身上的风险越来越大。引入 Google，至少能让它在面对 Nvidia 和微软时多一点议价筹码。

不过，换芯片从来不是拔掉插头换上一张卡那么简单。

AI 行业过去十几年几乎完全构筑在 Nvidia 的 CUDA 生态之上，从底层算子到上层工具链，全都为英伟达量身定制。Google 虽然有自己的软件栈，但 OpenAI 究竟能把多大比例的业务顺利搬到 TPU 上，目前谁心里也没底。路透社报道称，Google 对此拒绝置评，OpenAI 也并未立即回应。

为什么重要

我们认为，这笔交易最耐人寻味的地方，在于 AI 基础设施的军备竞赛正在悄悄换轨道。

过去两年大家拼的是谁手里的 H100 更多，谁能训出更大的模型。但随着 ChatGPT 这类产品日常活跃突破 1 亿，竞争的重心已经从训练转向了推理。训练是一次性重资产投入，推理却是每天一睁眼就要付现钱的流水账，谁能把单次回答的成本压低几分钱，谁才能在商业上活下去。

对行业来说，这也是 Nvidia 铁板一块的护城河第一次出现肉眼可见的裂痕。当 OpenAI 这样的标杆客户都开始用 Google TPU 跑推理，其他算力吃紧的独角兽必然会跟进。这会倒逼芯片厂商不再只卷峰值性能，而是去拼单位吞吐成本。

看起来，OpenAI 这一步走得相当精明：用对手的便宜算力，来养自己的大模型，顺便敲打一下微软和 Nvidia。但隐患在于，同时周旋在微软、Google 和 Nvidia 三个巨头之间，既要解决多架构软件适配的工程噩梦，又要在地缘商业博弈中走钢丝。算力多元化固然好，但在巨头夹缝里求平衡的代价，恐怕也不便宜。