AMDとCerebrasが提携:分離型AI推論で電力効率を最大5倍に向上
AMDとCerebrasは分離型AI推論ソリューションの提携を発表した。AMD Heliosが高スループットのプロンプト処理を担い、Cerebrasのウェエハスケールエンジンが超低遅延でトークン生成を行う。電力あたりの効率は最大5倍向上する見込みで、2026年後半にCerebras Cloudで提供が始まる。
大規模なプロンプトの読み込みと、1文字ずつのテキスト生成を同じGPUに丸投げするのは、長距離トラックに短距離走を走らせるようなものです。
2026年7月23日のイベント「Advancing AI 2026」にて、AMDとCerebras Systemsは技術提携を発表しました。AMDのラック規模システム「Helios」と、Cerebrasの巨大なウェエハースケールエンジン(WSE)を組み合わせた、分離型(ディスアグリゲーテッド)AI推論ソリューションです。
得意分野でタスクを分担する
AIモデルの推論は、性質が異なる2つの段階に分かれます。
前半のプロンプト処理は、入力された長文コンテキストを一気に読み込むため高いスループットが求められます。後半のトークン生成は、1語ずつ順番に出力するためメモリ帯域と低遅延が命になります。
今回の共同ソリューションでは、AMD Instinct GPUを搭載したHeliosが前半のプロンプト処理を受け持ち、CerebrasのWSEが後半の超高速デコードとトークン生成を担当します。
両社によると、この組み合わせにより、1ワットあたりの秒間生成トークン数(T/s/W)が最大5倍に向上する見込みです。
Cerebrasは自社データセンターにAMD Heliosを導入する予定で、2026年後半にCerebras Cloudを通じて最初の提供が始まります。
なぜ重要か
コーディング支援ツールや自律型エージェント、リアルタイム対話AIを開発するエンジニアにとって、応答速度は体験そのものを左右します。特に内部で思考やツール呼び出しを繰り返すエージェントでは、トークン出力の遅延がそのまま待ち時間に直結します。今回の構成はまさにその領域を狙い撃ちしたものです。
業界全体で見れば、単一アーキテクチャのGPUクラスタを推奨するNVIDIAに対する、明確な対抗策と言えます。AMDとCerebrasは、推論ワークフローを2つに分割し、それぞれ最適なハードウェアを割り当てる異種混合アプローチを取りました。
この提携は非常に合理的だと考えます。Cerebrasは自社に不足していた大規模な事前入力処理をAMDのラック規模インフラで補え、AMDは超低遅延という強力な武器を手に入れられます。ただし、異なる2つのハードウェア間でKVキャッシュなどのデータをやり取りする際のオーバーヘッドをどこまで抑え込めるかが課題です。2026年後半の実環境でのパフォーマンスが注目されます。
情報源 (1)
- cerebras.ai(新しいタブで開きます)原文cerebras.ai