AMDがMI300を発表:推論性能でH100に対抗、ノートPC向けRyzen 8040も
AMDは大規语言モデルの訓練・推論向けアクセラレータ「Instinct MI300X」とAPU「MI300A」を発表した。Llama 2の推論でNvidia H100の1.4倍の性能を謳い、マイクロソフトやMetaの採用も決定。NPU内蔵のRyzen 8040も同時に公開された。

過去1年間、AI開発者が直面してきた最大の壁は、極度の品薄が続くNvidia製GPU「H100」の確保でした。こうした状況の中、AMDが本格的な対抗馬を引っ提げて市場に挑みます。
AMDは大規模言語モデル(LLM)の学習と推論に向けたアクセラレーター「Instinct MI300」シリーズ(MI300XおよびMI300A)を正式発表しました。さらに、オンデバイスAI処理に対応するノートPC向けプロセッサ「Ryzen 8040」も披露しています。
Llama 2の推論でH100を4割上回る
目玉となったのは単体GPUアクセラレーター「Instinct MI300X」です。前世代のMI250Xに比べてメモリ容量が1.5倍に拡大し、エネルギー効率も向上しました。
AMDのリサ・スーCEOは、MI300Xを「世界最高性能のアクセラレーター」とアピールしました。モデルの学習性能ではNvidiaのH100と同等としつつ、推論処理ではMI300Xが勝ると主張。Metaの700億パラメータモデル「Llama 2」を実行した際、H100の1.4倍の推論性能を発揮したとしています。
大手顧客も即座に反応しました。マイクロソフトのケビン・スコットCTOが登壇し、Azure ND MI300X仮想マシンのプレビュー提供開始を発表。Metaも自社データセンターへのMI300採用を表明しています。
APUとノートPC向けAIチップも同時展開
AMDはデータセンター向けAPU「MI300A」も投入しました。CPUとGPUを同一パッケージに統合しユニファイドメモリを採用することで、デバイス間のデータ移動を不要にしています。
AMDによると、MI300AはH100比で1.6倍のメモリ容量と最大30倍のエネルギー効率を実現したとのことです。現在量産中で、2エクサフロップス超を見込むローレンス・リバモア国立研究所のスーパーコンピュータ「El Capitan」に搭載されます。具体的な価格は非公表ですが、スーCEOは潜在市場規模が450億ドルに達すると見込んでいます。
クライアントPC向けには「Ryzen 8040」を発表しました。NPUを統合し、AI処理性能は前世代比で1.6倍に向上。エイサー、ASUS、デル、HP、レノボなどが2024年第1四半期に搭載製品を投入する予定です。あわせてWhisperやLlama 2をサポートするRyzen AIソフトウェアプラットフォームも提供開始されました。
なぜ重要か
AIを開発・運用する企業にとって、Nvidia一強による供給不足と高価格設定からの現実的な選択肢ができたことの意味は極めて大きいです。Azure上でMI300Xインスタンスを試せる環境が整ったことで、推論コスト削減の検証をすぐに始められます。
業界全体で見れば、マイクロソフトやMetaといった最大手のクラウドアダプターがAMDの支援に回った点が決定打です。彼らはインフラの調達先が単一ベンダーに握られるリスクを本気で嫌がっています。
AMDの戦略は非常に合理的だと考えられます。CUDAの牙城である学習市場に正面衝突するのではなく、ビジネス活用でより重視されるメモリ容量と推論コストの低減を武器に差別化を図りました。ただし、ハードウェアの性能が優れていても、ソフトウェア環境(ROCm)がCUDA並みの開発体験を提供できるかが今後の普及を左右するはずです。
情報源 (1)
- theverge.com(新しいタブで開きます)原文theverge.com