NVIDIA、100万トークン超の推論を高速化する新チップ「Rubin CPX」を発表
NVIDIAは動画生成やコーディングなど大規模AI推論タスク向けの新チップシステム「Rubin CPX」を発表した。動画のエンコード・デコードと推論を単一基盤に統合し、100万トークン規模の処理におけるマルチチップの非効率を解消する。
NVIDIAは動画生成やコーディングなど大規模AI推論タスク向けの新チップシステム「Rubin CPX」を発表した。動画のエンコード・デコードと推論を単一基盤に統合し、100万トークン規模の処理におけるマルチチップの非効率を解消する。