NVIDIA Blackwell Ultra 亮相 MLPerf:跑 R1 推理比 Hopper 快 5 倍
NVIDIA 首次公布 Blackwell Ultra 架构在 MLPerf Inference v5.1 的测试成绩。GB300 NVL72 系统在 DeepSeek-R1 与 Llama 3.1 405B 等测试中刷新纪录,单 GPU 离线推理吞吐达 5842 token/秒,约是 Hopper 系统的 5 倍。
NVIDIA 首次公布 Blackwell Ultra 架构在 MLPerf Inference v5.1 的测试成绩。GB300 NVL72 系统在 DeepSeek-R1 与 Llama 3.1 405B 等测试中刷新纪录,单 GPU 离线推理吞吐达 5842 token/秒,约是 Hopper 系统的 5 倍。
NVIDIA 发布 NVLink Fusion 互连方案,允许第三方定制芯片直接接入 NVLink 机架架构。联发科、Marvell、高通和富士通等已率先支持。这意味着云厂商能将自研 ASIC 或 CPU 融入英伟达生态,打造半定制的超大规模 AI 工厂。