マイクロソフトが推論特化AIチップ「Maia 200」発表、TSMC 3nm採用で費用対効果30%向上

巨大テック企業がNVIDIAに巨額の資金を投じ続けてきたAIブームも、いよいよ日々のトークン生成コストをどう削るかという現実的なフェーズに入りました。1月26日、Microsoftはその答えとなる自社製AI推論アクセラレータ「Maia 200」を発表しました。

Maia 200はTSMCの3nmプロセスで製造され、750WのSoC TDP枠内に1400億個以上のトランジスタを集積しています。低精度計算に特化して設計されており、4ビット（FP4）で10ペタFLOPS以上、8ビット（FP8）で5ペタFLOPS以上の演算性能を叩き出します。

同社によると、Maia 200のFP4性能はAmazonの第3世代Trainiumの3倍に達し、FP8性能でもGoogleの第7世代TPUを上回るとのことです。Azureの現行最新ハードウェアと比較しても、1ドルあたりの性能が30%向上しています。

メモリの壁を突破する独自設計と標準イーサネット

大規模言語モデルの推論では、演算性能以上にデータをいかに滞りなく供給できるかが問われます。Maia 200はこのボトルネックに対処するため、メモリ周りを大幅に再設計しました。

チップあたり216GBのHBM3eを搭載し、帯域幅は7TB/sに達します。さらに272MBのオンチップSRAM、専用DMAエンジン、専用NoCを組み合わせることで、重いモデルを動かす際のスループットを高めています。

クラスタ設計も現実的です。高価なプロプライエタリ規格ではなく、標準イーサネットをベースにした2階層のスケールアップネットワークを採用しました。1つのトレイに収まる4基のMaiaアクセラレータはスイッチを介さず直接接続され、1チップあたり2.8TB/sの双方向帯域を確保しながら、最大6144基のアクセラレータクラスタまで拡張できます。

冷却には第2世代のクローズドループ液冷熱交換ユニットを導入しました。シリコン完成前のシミュレーション環境を作り込んだことで、パッケージ到着から数日でモデルが実稼働し、データセンターへのラック展開までの期間を従来の半分以下に短縮できたとしています。

すでにアイオワ州デモイン近郊のUS Centralリージョンで稼働を開始しており、今後はアリゾナ州フェニックス近郊のUS West 3リージョンなどへ順次拡大されます。OpenAIの最新モデル「GPT-5.2」の推論をはじめ、Microsoft 365 CopilotやMicrosoft Foundryを支えるほか、社内の超知能チームが合成データ生成や強化学習に活用する予定です。TritonコンパイラやPyTorch対応を含むMaia SDKのプレビュー提供も始まっています。

なぜ重要か

推論コストの引き下げは、生成AIサービスをビジネスとして成立させるための最重要課題です。Maia 200の登場は、ハイパースケーラー各社によるカスタム半導体競争が本格的な実用段階に入ったことを示しています。

ユーザーや開発者にとっての直接的な恩恵は、サービスのコスト安定性です。エンドユーザーがCopilotの裏側にあるシリコンを意識することはほとんどありませんが、1ドルあたりの性能が3割向上することは、将来的なAPI利用料の引き下げやピーク時の応答性向上に直結します。Tritonコンパイラが公式にサポートされているため、既存のPyTorch資産を抱える開発者にとっても移行のハードルは比較的低いと見られます。

業界全体への影響も見逃せません。Microsoftは訓練向けでNVIDIAと全面衝突することを避け、消費電力が膨らみ続ける推論領域に特化してTSMCの最先端3nmを投入しました。さらに高価な独自ファブリックではなく標準イーサネットで6144基規模のクラスタを組むアプローチは、データセンター全体のTCOを抑える上で極めて現実的な判断といえます。

もっとも、自社製チップの成否を分けるのはハードウェアスペック以上にソフトウェアスタックの完成度です。実環境の大規模トラフィック下で、独自のネットワーク層やコンパイラがどこまでトラブルなく稼働し続けられるか、最初の拠点となるアイオワやアリゾナでの運用実績が今後の試金石になりそうです。