NVIDIA 发布 Blackwell 芯片架构:推理速度提升 5 倍,直奔万亿参数模型
NVIDIA CEO 黄仁勋发布新一代 Blackwell 架构。它专为万亿参数多模态模型打造,单芯片 FP4 推理性能达前代 Hopper 的 5 倍,训练性能提升 2.5 倍,同时还带来了打包部署工具 NIM。说白了,AI 算力正在全面告别通用计算,各家巨头也已集体排队采购。
黄仁勋从口袋里掏出一块黑色芯片,跟两年前发布的 Hopper 摆在一起。Hopper 瞬间显得像个玩具,台下坐着的一万两千多名开发者和科技公司高管顿时安静了一下。
这是 GTC 现场最抓人的一幕。通用计算已经跑不动了,而万亿参数的多模态大模型还在成倍吃算力,英伟达给出的答案就是全新的 Blackwell 架构。
把算力怪兽装进一个机柜
新架构以数学家 David Harold Blackwell 命名。单颗 Blackwell 芯片在 FP8 精度下的训练性能是 Hopper 的 2.5 倍,到了 FP4 精度的推理场景,速度直接飙到了 5 倍。
为了把这些芯片串起来,英伟达拿出了第五代 NVLink 互联技术,速度比前代翻了一倍,最多能把 576 颗 GPU 连在一起协同工作。配套的 NVLink Switch 芯片单颗能支撑 1.8 TB/s 的带宽,直接在网络内部做数据归约。
更夸张的是整机系统。由两颗 B200 GPU 和一颗 Grace CPU 组成的 GB200 超级芯片,通过 900 GB/s 的超低功耗互联接在一起,黄仁勋管它叫一个大芯片。
把这些塞进液冷机架,就成了 GB200 NVL72。整台机器重达 3000 磅,包含 60 万个零件,在单个机柜里能榨出 1.4 exaflops 的 FP4 推理算力。再往上堆叠的 DGX SuperPOD,FP4 超算算力直接冲到了 11.5 exaflops。
别写代码了,直接组建 AI 团队
除了硬件,英伟达这次花了很大篇幅讲软件交付的新方式,名字叫 NIM 微服务。
黄仁勋在台上直说,未来的软件开发大概率不再是程序员敲一大堆 Python 代码,而是直接组装现成的 AI 模型团队,给它们派任务、看中间结果。
NIM 本质上是把常用的模型和加速库打包成标准微服务,支持行业标准 API。企业既可以直接拿现成的用,也能拿自己的专有数据训出定制的 Copilot。
硬件制造环节也有新动作。英伟达宣布计算光刻平台 cuLitho 正式投入生产,台积电和新思科技已经入局,据说能把半导体制造里最耗算力的环节加速 40 到 60 倍。
为什么重要
对开发者和企业来说,Blackwell 和 NIM 传达的信号很直接:模型落地成本将断崖式下跌。推理端 5 倍的性能提升,意味着以前跑起来心疼的万亿参数模型,现在部署门槛被大幅拉低,小团队做重度 AI 应用的性价比也更高了。
对行业竞争而言,英伟达正在把护城河从单一的算力芯片,推向整个数据中心系统和软件分发层。当微服务、高速网络和液冷机柜被整套打包出售时,其他做专用 ASIC 芯片的对手不仅要在算力上追赶,还得在整个机柜级系统架构上补课。
我们认为,英伟达这套打法极其聪明,但隐患同样明显。把 72 颗 GPU 塞进单个液冷机架,直接把部署难度转移到了机房的水电配套上,3000 磅的重量和极高的散热要求,意味着普通数据中心根本接不住,只有顶级云厂商有能力快速消化这批怪兽。
来源 (2)
- blogs.nvidia.com(在新标签页打开)原文blogs.nvidia.com
- venturebeat.com(在新标签页打开)报道venturebeat.com