Google Cloud、第5世代TPUを発表：コスト性能最大2.5倍、数万基規模の拡張に対応

AIの計算資源不足が叫ばれるなか、Googleが自社製チップの最新モデルを投入しました。

年次イベント「Cloud Next」にて、Google CloudはAIの学習と推論に特化したカスタムプロセッサの第5世代「TPU」を発表しました。

第4世代は2021年に発表されたものの開発者が利用可能になったのは2022年でした。今回の第5世代では、徹底的に効率性を追求した設計になっています。

コストパフォーマンス向上とクラスタ拡張

最大の売りは、1ドルあたりの処理能力の高さです。

前世代と比較して、1ドルあたりの学習性能が2倍、推論性能が2.5倍に向上しました。

Google CloudでコンピュートおよびMLインフラを担当するMark Lohmeyer副社長は、これまでで最も費用対効果が高く利用しやすいCloud TPUだと述べています。

さらに、物理的な制約を超えるスケーラビリティも備えました。

単一のTPUポッドやクラスタの境界を越え、数万個規模のチップにまたがる単一の大規模AIワークロードをコスト効率よく分散処理できるようになっています。

また、Googleは自社製チップだけでなく、Nvidiaの「H100」GPUを搭載したA3仮想マシンを来月一般提供（GA）することも合わせて明らかにしました。

なぜ重要か

AI開発に取り組む企業にとって、インフラ費用とチップ不足は最大の課題です。学習で2倍、推論で2.5倍のコスト効率改善は、開発予算やサービス運用コストに直接恩恵をもたらします。

また、数万個のチップを束ねて1つの巨大モデルを学習できる柔軟性は、フロンティアモデルを扱うチームにとって有力な選択肢になります。

私たちは、Googleが自社製TPUを強化しつつNvidia H100も同時に提供する二刀流の戦略をとった点は非常に賢明だと考えます。Nvidia依存を減らしつつ、CUDA環境を求める既存顧客を取りこぼさない構えです。

ただし、どれほど価格競争力があっても、Nvidiaのエコシステムに慣れた開発者をどこまで自社TPUへ引き込めるかというソフトウェア面のハードルは依然として残ります。