Google、第6世代「Trillium TPU」を一般提供：Gemini 2.0の学習を支えた最新AIチップ

業界全体がNVIDIA製GPUの確保と納期の長期化に追われる中、Googleが自社の最前線を支えてきた強力なインフラを一般ユーザー向けに開放しました。

Googleは、第6世代となるカスタムAIプロセッサ「Trillium」（TPU v6e）をGoogle Cloudで一般提供（GA）開始したと発表しました。このチップは、先日発表されたばかりの最新フラッグシップモデル「Gemini 2.0」の学習に実際に使用されていた基盤そのものです。

これにより、スタートアップや一般エンタープライズ企業も、Googleの社内チームと同じ演算基盤をクラウド経由で利用できるようになります。

数千基束ねても性能が落ちないスケール性能

前世代にあたる普及型チップ「Cloud TPU v5e」と比較して、スペックの進化は目を見張るものがあります。チップ単体のピーク演算性能は4.7倍に跳ね上がり、高帯域幅メモリ（HBM）容量とチップ間インターコネクト帯域幅はそれぞれ2倍、エネルギー効率も67％向上しました。

しかし、Trilliumの真骨頂は単体性能以上に、大規模クラスタを組んだ際の通信効率の高さにあります。

Google独自のデータセンターネットワーク「Jupiter」を採用し、単一ファブリック内に10万個以上のTrilliumチップを接続可能にしました。バイセクション帯域幅は毎秒13ペタビットに達します。

1750億パラメータ規模のLLM事前学習ベンチマークでは、3072個のチップ（12ポッド）を接続した状態で99％という驚異的な線形スケーリング効率を達成しました。さらに規模を倍の6144個まで拡大しても、スケーリング効率は94％を維持しています。

また、ホストDRAMの容量をv5eの3倍に拡張したことで、ホスト側への計算オフロードが可能になりました。これにより、Llama 3.1 405Bのような超巨大モデルの学習時において、計算効率を示すMFUが50％以上改善しています。

推論やレコメンドモデルまで幅広くカバー

昨今のAI開発で主流になりつつあるMoE（混合エキスパート）構成のモデル学習においても、Trilliumはv5e比で最大3.8倍の高速化を実現しました。

学習だけでなく推論用途にも注力されています。Stable Diffusion XLを用いた画像生成の推論スループットはv5eと比べて3倍以上に向上し、Llama 2の推論トークンレートも約2倍に達しています。

さらに、エンベディング処理に特化した第3世代の「SparseCore」を内蔵しており、DLRM DCNv2などの推薦システムモデルの性能を最大5倍に引き上げます。すでにAI21 Labsなどの有力AI企業が、自社のJambaモデルの開発加速に向けてTrilliumを導入しています。

なぜ重要か

AIモデルの開発や運用コストに頭を抱える企業にとって、Trilliumの一般提供は極めて現実的なコスト削減の選択肢となります。1ドルあたりの学習性能は最大2.5倍、推論性能は最大1.4倍改善するとされており、特に大規模な画像生成やMoEモデルの推論基盤として今すぐ検証する価値があります。

業界全体への影響として、これはNVIDIA一強の市場構造に対する強力な対抗軸となります。GoogleはXLAコンパイラを強化し、JAXだけでなくPyTorchのサポートを大幅に改善することで、長年開発者をCUDAに縛り付けてきたソフトウェア移行の壁を着実に崩しにかかっています。

単なる計算チップの性能競争にとどまらず、ネットワークからホストメモリ、オーケストレーションまでを一括設計した点は非常に合理的だと評価できます。ただし懸念点として、TPUクラスタと独自ネットワークに最適化したシステムを組むほど、他社クラウドへの移行が難しくなるベンダーロックインのリスクが伴います。コスト削減の恩恵とプラットフォーム依存のバランスをどう取るかが導入の分かれ目になりそうです。