OpenAIがGoogleのTPUを採用開始、Nvidia依存の分散へ

ビジネスの世界に永遠の敵はいません。特に天文学的な計算コストが絡む場面ではなおさらです。

ロイターが関係者の話として報じたところによると、OpenAI は ChatGPT などの製品を動かすため、Google の独自 AI チップである TPU の利用を開始した模様です。創業以来、Nvidia 製 GPU を基盤としてきた OpenAI にとって、これが他社製ハードウェアへの初の大規模な移行となります。

1日1億人の利用を支えるコスト削減

今回の動きは、OpenAI が Nvidia と縁を切ることを意味するわけではありません。

背景にあるのは急激に膨らむ推論コストです。ChatGPT は現在、1 日あたり 1 億人以上のアクティブユーザーを抱えています。同社の年間計算予算は推定 400 億ドルに達しており、日常的なユーザー対応にかかる推論負荷がその大部分を占めています。

そこで採用されたのが、Google Cloud 経由で提供される第 6 世代 TPU「Trillium」（v6e）です。これは Google の最上位チップではないものの、安定した推論処理向けに設計されており、最上位 GPU に比べて運用コストを大幅に抑えつつ高いスループットを実現します。

Google Cloud の TPU を利用する外部顧客リストには、Apple や Anthropic、Safe Superintelligence に加え、最大のライバルである OpenAI まで名を連ねることになりました。

Azure 依存からの脱却と CUDA の壁

最大の出資者であるマイクロソフトの Azure が今後も主力基盤であることに変わりはありません。

しかし、GPU の供給不足と高価格が続く中、単一のベンダーに過度に依存するリスクは明白でした。Google 製チップを取り入れることで、OpenAI は供給の安定化を図り、価格交渉力を持つことができます。

課題はソフトウェアの移行です。業界全体が長年にわたり Nvidia の CUDA エコシステムに最適化されてきたため、OpenAI が自社のシステムをどこまで TPU に深く組み込めるかは未知数です。ロイターの取材に対し、Google はコメントを控え、OpenAI も即座の回答を行っていません。

なぜ重要か

この動きは、AI 業界の競争の主戦場が「モデルの学習」から「日常の推論」へと完全に移ったことを示していると私たちは考えます。

どれほど賢いモデルを作っても、1 日 1 億人のクエリをさばくコストを抑えられなければビジネスとして成り立ちません。1 トークンあたりの生成コストをいかに削るかが、各社の生存を分ける段階に入っています。

また、鉄壁と見られていた Nvidia の牙城に目に見えるヒビが入った点も見逃せません。業界の象徴である OpenAI が TPU を本格的に推論へ回し始めたとなれば、追随する開発企業が一気に増えるはずです。Google にとっては、クラウド事業でライバルから巨額のインフラ利用料を吸い上げる大きな戦略的勝利と言えます。

競合である Google のハードウェアを活用してマイクロソフトや Nvidia を牽制する OpenAI の立ち回りは極めて合理的です。ただし、CUDA 依存から抜け出す技術的コストと、主要提携先とライバルの間で綱渡りを続ける地政学的なリスクは決して小さくありません。