Google、第8世代TPUの新システム「TPU 8tx」と「TPU 8i Max」を発表

ハードウェアの進化サイクルは年単位でかかるのが通例でしたが、Googleはそのペースを根底から塗り替えようとしています。同社は第8世代TPUシリーズにおいて、わずか1年間で4種類ものシステム構成を投入しました。

今回新たに加わったのは「TPU 8tx」と「TPU 8i Max」です。どちらも全く新しいプロセッサを開発したわけではなく、既存の第8世代シリコンをベースに、パッケージング、相互接続ネットワーク、メモリ構成を組み替えたシステムです。Googleは、AIエージェントの本格運用を見据えた構成としてこれらを打ち出しています。

処理中もデータを保護する8txと、メモリ不足を解消する8i Max

まずTPU 8txは、機密データを扱う政府機関や厳格な規制対象企業に向けたシステムです。最大の特徴はコンフィデンシャルコンピューティングに対応している点にあります。

通常、機密データは保管時や転送時には暗号化されていますが、メモリに読み込まれてプロセッサが処理する瞬間には復号されるのが弱点でした。TPU 8txはこの隙間を埋め、データやモデルの重みを処理実行中も暗号化・隔離された状態に保ちます。同様の機能はNvidiaのGPUでも提供されています。

また、リアルタイム推論向けに設計された独自の低遅延ネットワーク「Boardfly」を採用し、TPU 8tと比較して最大で半分のレイテンシ削減を実現したとしています。これにより、機密データを別のクラスタへ移動させることなく、単一システム上でファインチューニング、モデル蒸留、強化学習によるエージェント訓練までを安全に完結できます。

一方のTPU 8i Maxは、AIエージェントにつきまとうメモリ帯域幅のボトルネックを解消するためのハードウェアです。

エージェントが大規模なコードベースや長時間の動画、あるいは100万トークン規模のコンテキストを一度に処理しようとすると、メモリが真っ先に制約となります。Googleはこの課題に対し、1つのパッケージの中に2基のTPU 8iチップを収めるという力強いアプローチをとりました。

これにより、まったく同じラックスペースでありながら、計算力、メモリ容量、メモリ帯域幅がすべて2倍になり、データセンターの設置面積あたりの処理密度が大幅に向上します。

モジュール設計とPyTorchエコシステムへの接近

数年がかりで半導体を一から作り直すのではなく、既存チップをモジュール式に再構成することで、Googleは数カ月単位で現場の需要に合わせたバリエーションを提供できるようになりました。

さらに普及の鍵を握るソフトウェア面でも、Googleは参入障壁を引き下げています。オープンソースの「TorchTPU」を提供することで、開発者はPyTorchコードをほぼ手直しすることなくTPU上で動かせるようにしました。vLLMやSGLangといった普及の進む推論フレームワークへの対応も進んでいます。

これらの背景には、これまで自社専用だったTPUを外部顧客向けの競争力あるプラットフォームへと転換する明確な戦略があります。現在、TPUを利用する外部顧客はすでに100社近くに達しています。

なぜ重要か

機密性の高いデータを扱う企業にとっては、データ漏洩の懸念を抑えながら自社モデルを訓練・運用できる選択肢が広がります。また、長大なコンテキストを日常的に回すエージェント開発者にとっても、ラックスペースあたりの高密度なメモリ環境は魅力的な選択肢となるはずです。

業界全体で見れば、AIハードウェアの主戦場が莫大なコストをかけた事前学習から、日々のモデル推論やエージェント運用へと大きくシフトしていることを示しています。日常的な推論コストを抑える局面では、専用設計されたASICが汎用GPUに対してコストパフォーマンスを発揮しやすくなります。AmazonやMicrosoft、OpenAIが独自アクセラレータの開発を急ぎ、NvidiaがGroqとのライセンスおよび人材契約で推論領域の補強を図っているのも同じ文脈です。

既存のシリコンを巧みに再パッケージ化して現場のボトルネックを迅速に潰していくGoogleの手法は、非常にスマートだと考えられます。一方で、開発者の間には依然としてNvidiaのCUDAエコシステムへの強い信頼があります。TorchTPUなどのツール群が実際の現場でどこまで安定して機能し、移行に伴う開発者の摩擦を低減できるかが、今後の普及の成否を分けることになりそうです。