NVIDIA Blackwell Ultra 亮相 MLPerf:跑 R1 推理比 Hopper 快 5 倍
NVIDIA 首次公佈 Blackwell Ultra 架構在 MLPerf Inference v5.1 的測試成績。GB300 NVL72 系統在 DeepSeek-R1 與 Llama 3.1 405B 等測試中重新整理紀錄,單 GPU 離線推理吞吐達 5842 token/秒,約是 Hopper 系統的 5 倍。
NVIDIA 首次公佈 Blackwell Ultra 架構在 MLPerf Inference v5.1 的測試成績。GB300 NVL72 系統在 DeepSeek-R1 與 Llama 3.1 405B 等測試中重新整理紀錄,單 GPU 離線推理吞吐達 5842 token/秒,約是 Hopper 系統的 5 倍。
NVIDIA 釋出 NVLink Fusion 互連方案,允許第三方定製晶片直接接入 NVLink 機架架構。聯發科、Marvell、高通和富士通等已率先支援。這意味著雲廠商能將自研 ASIC 或 CPU 融入輝達生態,打造半定製的超大規模 AI 工廠。