本文へスキップ
IFAI

業界動向

AMDとCerebrasが提携:分離型AI推論で電力効率を最大5倍に向上

公開 拡散指数 39

AMDとCerebrasは分離型AI推論ソリューションの提携を発表した。AMD Heliosが高スループットのプロンプト処理を担い、Cerebrasのウェエハスケールエンジンが超低遅延でトークン生成を行う。電力あたりの効率は最大5倍向上する見込みで、2026年後半にCerebras Cloudで提供が始まる。

大規模なプロンプトの読み込みと、1文字ずつのテキスト生成を同じGPUに丸投げするのは、長距離トラックに短距離走を走らせるようなものです。

2026年7月23日のイベント「Advancing AI 2026」にて、AMDとCerebras Systemsは技術提携を発表しました。AMDのラック規模システム「Helios」と、Cerebrasの巨大なウェエハースケールエンジン(WSE)を組み合わせた、分離型(ディスアグリゲーテッド)AI推論ソリューションです。

得意分野でタスクを分担する

AIモデルの推論は、性質が異なる2つの段階に分かれます。

前半のプロンプト処理は、入力された長文コンテキストを一気に読み込むため高いスループットが求められます。後半のトークン生成は、1語ずつ順番に出力するためメモリ帯域と低遅延が命になります。

今回の共同ソリューションでは、AMD Instinct GPUを搭載したHeliosが前半のプロンプト処理を受け持ち、CerebrasのWSEが後半の超高速デコードとトークン生成を担当します。

両社によると、この組み合わせにより、1ワットあたりの秒間生成トークン数(T/s/W)が最大5倍に向上する見込みです。

Cerebrasは自社データセンターにAMD Heliosを導入する予定で、2026年後半にCerebras Cloudを通じて最初の提供が始まります。

なぜ重要か

コーディング支援ツールや自律型エージェント、リアルタイム対話AIを開発するエンジニアにとって、応答速度は体験そのものを左右します。特に内部で思考やツール呼び出しを繰り返すエージェントでは、トークン出力の遅延がそのまま待ち時間に直結します。今回の構成はまさにその領域を狙い撃ちしたものです。

業界全体で見れば、単一アーキテクチャのGPUクラスタを推奨するNVIDIAに対する、明確な対抗策と言えます。AMDとCerebrasは、推論ワークフローを2つに分割し、それぞれ最適なハードウェアを割り当てる異種混合アプローチを取りました。

この提携は非常に合理的だと考えます。Cerebrasは自社に不足していた大規模な事前入力処理をAMDのラック規模インフラで補え、AMDは超低遅延という強力な武器を手に入れられます。ただし、異なる2つのハードウェア間でKVキャッシュなどのデータをやり取りする際のオーバーヘッドをどこまで抑え込めるかが課題です。2026年後半の実環境でのパフォーマンスが注目されます。

情報源 (1)

  1. [1]
    cerebras.ai(新しいタブで開きます)原文cerebras.ai

毎日のAIピックアップ