マイクロソフト、H100搭載Azure仮想マシンを提供開始　OpenAIサービスも東日本などへ拡大

生成AIの競争は、モデルの賢さを競う表舞台の裏で、データセンターの処理能力をめぐる激しいインフラ争奪戦になっています。

マイクロソフトは8月7日、NVIDIA H100 Tensor コア GPUを搭載した「Azure ND H100 v5」仮想マシンシリーズの一般提供を開始しました。あわせて「Azure OpenAI Service」の提供地域を日本東部を含む複数の海外拠点へ拡大したことも発表しています。

膨大な計算需要が押し寄せるなか、マイクロソフトはクラウドの足回りを一気に強化しにかかりました。

1台にH100を8基搭載、通信帯域も桁違い

今回一般提供されたND H100 v5シリーズは、大規模なAIモデルの学習や推論を前提に設計されたモンスターマシンです。

各仮想マシンには8基のNVIDIA H100 GPUが搭載され、CPUには第4世代インテルXeonスケーラブルプロセッサ、メインメモリにはDDR5を採用しています。

ホストとGPU間の接続にはPCIe Gen5を用い、GPUあたり64GB/sの帯域を確保しました。ノード間通信にはNVIDIA Quantum-2 ConnectX-7 InfiniBandを導入し、GPUあたり400Gb/s、マシン全体で3.2Tb/sの広帯域を実現しています。

従来のFP16に代わり新しい8ビットのFP8浮動小数点データ形式を使用した場合、行列積演算で最大6倍の高速化を達成しました。BLOOM 175Bのような大規模言語モデルのエンドツーエンド推論でも、処理速度が最大2倍に向上しています。

提供地域は米国東部および米国中南部からスタートしました。現在は4000基規模のGPUクラスタを運用しており、今後1年間で最新GPUを数十万基規模まで増強する計画です。

1日100社が新規導入、東日本リージョンでも利用可能に

ハードウェアの増強と同時に、Azure OpenAI Serviceのグローバル展開も加速しています。

新たに追加されたのは日本東部、オーストラリア東部、カナダ東部、米国東部2、英国南部の各リージョンです。これにより、世界各地の拠点でGPT-4やGPT-35-Turboを呼び出せるようになりました。

サービスの導入企業数は前回の公表時から約3倍に急増し、1万1000社を突破しました。今四半期は平均して1日あたり約100社のペースで新規顧客が増加しています。

メルセデス・ベンツが車載音声アシスタントの対話機能に導入したほか、KPMGがコーディング支援に活用し、自動運転技術を手がけるWayveは基盤ニューラルネットワークの学習基盤として採用しています。

なぜ重要か

生成AIを本番運用したい企業にとって、GPU不足とレイテンシ、そしてデータの国外持ち出し制限は大きな壁でした。

日本東部リージョンの開設により、国内の金融機関や自治体でもデータ主権の懸念を減らしつつGPT-4を活用できる環境が整いました。手元で最新インフラを試す価値は十分にあります。

クラウド市場の競争という観点でも、マイクロソフトの手堅さが際立っています。単に計算資源を貸し出すだけでなく、OpenAIの最新モデルと最高峰のNVIDIA製GPUを一つの安全な基盤にまとめて提供できるプレイヤーは他に多くありません。

私たちは、現地法規制に対応しやすい形でGPT-4を各地に配備した戦略は非常に巧みだと考えます。一方で、今後1年で数十万基のGPUを調達・配備するという計画は、NVIDIAの供給ラインとデータセンターの電力確保に大きく左右されるリスクも抱えています。