MLPerf推論ベンチマーク公開：Nvidia H200が席巻、AMDは不参加
MLCommonsが最新のMLPerf推論ベンチマーク結果を公開した。NvidiaはH200とTensorRT-LLMの組み合わせで全7部門を席巻し、推論処理がデータセンター売上の約4割を占めることを明かした。IntelもGaudi2で健闘する一方、AMDは今回も結果を提出しなかった。
MLCommonsが最新のMLPerf推論ベンチマーク結果を公開した。NvidiaはH200とTensorRT-LLMの組み合わせで全7部門を席巻し、推論処理がデータセンター売上の約4割を占めることを明かした。IntelもGaudi2で健闘する一方、AMDは今回も結果を提出しなかった。