AMDがZen 6世代の「EPYC 9006」発表 最大256コア、エージェントAIでIntel比174%高速
AMDは、TSMCの2nmプロセスとZen 6アーキテクチャを採用した第6世代サーバー向けCPU「EPYC 9006」を発表した。1ソケットあたり最大256コア/512スレッドを搭載。オーケストレーションや検索などのエージェントAI処理において、Intel Xeon 6980P比で174%の性能向上を実現したという。
AIインフラといえばGPUばかりに注目が集まりがちですが、自律型AIエージェントを本番環境で動かし始めた現場では、別の壁に直面しています。CPUとメモリ帯域が先に悲鳴を上げ始めていることです。
AMDは7月23日、開発コード名「Venice」として知られていた第6世代EPYC 9006シリーズサーバー向けプロセッサを発表しました。Zen 6アーキテクチャとTSMCの2nmプロセスを採用し、1ソケットあたり最大256コア・512スレッドという圧倒的な計算密度を実現しています。
足回りの帯域も大幅に強化されました。16チャネルのDDR5メモリインターフェースを備え、最大12,800 MT/sで動作するJEDEC標準のMRDIMMをサポートするほか、次世代のPCIe Gen 6にも対応します。
エージェントの雑務をすべて引き受けるCPU
AMDが今回最も強調したのは、いわゆる「エージェンティックAI(自律型AI)」におけるCPUの役割です。
単一のプロンプトに応答するだけの推論ならGPU主導で事足ります。しかし自律型エージェントは、コンテキストの組み立て、ツール実行、データベース検索、外部APIの呼び出し、結果の検証など、大量の前処理と後処理を伴います。
AMDの分析によると、推論以外のこうしたパイプラインはすべてCPUとメモリの性能に依存します。同社は、これらCPU主導のエージェント処理において、競合となるIntel Xeon 6980Pと比較して幾何平均で174パーセントの性能向上を達成したと主張しています。
なぜ重要か
企業の開発者にとって、自律型AIのボトルネックはGPUの推論速度そのものから、周辺の検索やオーケストレーションの遅延へと移りつつあります。256コアとMRDIMMの広帯域を備えたEPYC 9006は、多数のエージェントを並行して動かすプラットフォームとして非常に魅力的です。
業界全体で見れば、AMDのアプローチは極めて巧妙です。推論アクセラレータ市場で無理にすべてを奪おうとするのではなく、エージェント化によって爆発的に増えるCPU側の負荷に焦点を当て、データセンターでの主導権を強固にしようとしています。Intelにとっては極めて手痛い打撃となるはずです。
私たちは、このエージェント特化の視線は非常に的を射ていると考えます。一方で、2nmプロセスと最先端のMRDIMMを組み合わせた構成は初期導入コストが跳ね上がる懸念があり、実際のワークロードに見合うかを慎重に見極める必要があります。
情報源 (1)
- amd.com(新しいタブで開きます)原文amd.com