NVIDIA 推出 AI Workbench：在本地工作站微调生成式 AI 模型

以前想在公司里搞个专属大模型，工程师得先折腾好几天环境。从 Hugging Face 下载权重，到处翻找兼容的容器、框架和 SDK，最后发现手头的机器显存不够，还得向 IT 部门打报告申请昂贵的云端算力。

在 SIGGRAPH 现场，NVIDIA 创始人兼 CEO 黄仁勋拿出了解决办法。NVIDIA 发布了统一开发工具包 AI Workbench，同时推出了 AI Enterprise 4.0 平台。简单来说，它想让开发者在自己的 RTX 电脑上点几下就能微调模型，搞定后再一键扔到云端跑。

笔记本调模型，云端跑生产

AI Workbench 最吸引人的地方，是把复杂的生成式 AI 开发流程打包成了一个本地极简界面。无论你用的是 Windows 还是 Linux 系统的 NVIDIA RTX 电脑或工作站，都能直接把它装上。

开发者可以直接从 Hugging Face、GitHub 或者 NVIDIA NGC 抓取预训练模型，再塞进企业自己的私有数据。从模型抓取、依赖配置到微调运行，点几下鼠标就能搞定。

如果在本地电脑上测试差不多了，或者模型实在太大，本地跑不动，AI Workbench 允许开发者无缝扩展。你可以直接把任务迁移到数据中心、公有云或者 NVIDIA DGX Cloud，不用重写配置或重搭环境。

硬件大厂们也迅速跟进。戴尔、慧与 HPE、惠普、联想、Supermicro 和 Lambda 等厂商，都已经宣布支持 AI Workbench，用来配合他们最新的多 GPU 桌面工作站和移动工作站。

此外，NVIDIA 还拉来了拥有 200 万用户的开源社区 Hugging Face。双方达成合作，开发者未来可以直接在 Hugging Face 平台上调用 NVIDIA DGX Cloud 的算力来训练和微调模型。

企业级套件升级与巨无霸芯片

光有开发工具还不够，为了让企业真正把 AI 跑在生产环境里，NVIDIA 拿出了 AI Enterprise 4.0。

新版本集成了构建大模型的云原生框架 NeMo，以及用于自动化运维的 Triton Management Service。企业可以在 Kubernetes 环境里自动部署多个推理服务器实例，还配上了 Base Command Manager Essentials 来管理跨混合云的服务器集群。

这套软件不仅获得了主流云厂商的支持，上架了 AWS、Google Cloud、微软 Azure 和甲骨文云，还拉上了 ServiceNow、Snowflake 和戴尔等企业服务巨头，连 Weights & Biases、Run:AI 等 MLOps 工具也做了深度整合。

硬件方面，黄仁勋还展示了下一代 GH200 Grace Hopper 超级芯片平台。双芯片配置塞进了 144 个 Arm Neoverse 核心、8 petaflops 的 AI 算力，以及 282GB 的 HBM3e 内存，预计在 2024 年第二季度由系统制造商出货。

为什么重要

对开发者和企业技术团队来说，AI Workbench 最大的价值是大幅降低了试错成本。以前搭一套可用的模型微调环境动辄耗费数天，现在工程师完全可以在工位上的 RTX 工作站完成概念验证。这不仅省去了前期昂贵的云端账单，也让内部私有数据的初步测试变得更安全。

对行业而言，这是 NVIDIA 构筑护城河的聪明一步。过去大家买 NVIDIA 显卡往往只是为了纯硬件算力，但现在从底层的 CUDA、中间层的 NeMo 和 Triton，一直到顶层的 Workbench 和 DGX Cloud，NVIDIA 正在把整个生成式 AI 的开发工具链全部打通。

我们认为，AI Workbench 表面上是给开发者减负，本质上是在用工作流锁定企业客户。当你在本地 RTX 机器上习惯了这套工具，后续扩容时自然而然就会直接买单 DGX Cloud 或搭载 NVIDIA 芯片的云服务，其他芯片厂商想在生态层面追赶，难度又增加了一层。