AMDとCerebrasが提携：分離型AI推論で電力効率を最大5倍に向上
AMDとCerebrasは分離型AI推論ソリューションの提携を発表した。AMD Heliosが高スループットのプロンプト処理を担い、Cerebrasのウェエハスケールエンジンが超低遅延でトークン生成を行う。電力あたりの効率は最大5倍向上する見込みで、2026年後半にCerebras Cloudで提供が始まる。
Cerebras Systems
Mayo Clinic、Microsoft ResearchおよびCerebrasと医療向け基盤モデル開発で提携
Mayo Clinicは、Microsoft ResearchおよびCerebras Systemsとそれぞれ提携し、医療特化型基盤モデルを開発すると発表した。胸部X線から読影レポートを自動生成するマルチモーダルAIや、ゲノムデータを解析して関節リウマチ等の個別化治療を支援するモデルを構築し、診断の迅速化と精度向上を目指す。
Cerebrasが超高速AI推論を発表、Llama 3.1で毎秒1800トークンを達成
Cerebras Systemsは超高速AI推論サービス「Cerebras Inference」を発表した。Llama 3.1 8Bで毎秒1800トークンを記録し、クラウドGPU比で20倍高速かつネイティブな16ビット精度を維持する。料金は8Bモデルで100万トークンあたり10セントからで、マルチステップなAIエージェントのリアルタイム処理を加速する。