NVIDIA 推出 AI Workbench：在本地工作站微調生成式 AI 模型

以前想在公司裡搞個專屬大模型，工程師得先折騰好幾天環境。從 Hugging Face 下載權重，到處翻找相容的容器、框架和 SDK，最後發現手頭的機器視訊記憶體不夠，還得向 IT 部門打報告申請昂貴的雲端算力。

在 SIGGRAPH 現場，NVIDIA 創始人兼 CEO 黃仁勳拿出瞭解決辦法。NVIDIA 釋出了統一開發工具包 AI Workbench，同時推出了 AI Enterprise 4.0 平臺。簡單來說，它想讓開發者在自己的 RTX 電腦上點幾下就能微調模型，搞定後再一鍵扔到雲端跑。

筆記本調模型，雲端跑生產

AI Workbench 最吸引人的地方，是把複雜的生成式 AI 開發流程打包成了一個本地極簡介面。無論你用的是 Windows 還是 Linux 系統的 NVIDIA RTX 電腦或工作站，都能直接把它裝上。

開發者可以直接從 Hugging Face、GitHub 或者 NVIDIA NGC 抓取預訓練模型，再塞進企業自己的私有資料。從模型抓取、依賴配置到微調執行，點幾下滑鼠就能搞定。

如果在本地電腦上測試差不多了，或者模型實在太大，本地跑不動，AI Workbench 允許開發者無縫擴充套件。你可以直接把任務遷移到資料中心、公有云或者 NVIDIA DGX Cloud，不用重寫配置或重搭環境。

硬體大廠們也迅速跟進。戴爾、慧與 HPE、惠普、聯想、Supermicro 和 Lambda 等廠商，都已經宣佈支援 AI Workbench，用來配合他們最新的多 GPU 桌面工作站和移動工作站。

此外，NVIDIA 還拉來了擁有 200 萬用戶的開源社群 Hugging Face。雙方達成合作，開發者未來可以直接在 Hugging Face 平臺上呼叫 NVIDIA DGX Cloud 的算力來訓練和微調模型。

企業級套件升級與巨無霸晶片

光有開發工具還不夠，為了讓企業真正把 AI 跑在生產環境裡，NVIDIA 拿出了 AI Enterprise 4.0。

新版本集成了構建大模型的雲原生框架 NeMo，以及用於自動化運維的 Triton Management Service。企業可以在 Kubernetes 環境裡自動部署多個推理伺服器例項，還配上了 Base Command Manager Essentials 來管理跨混合雲的伺服器叢集。

這套軟體不僅獲得了主流雲廠商的支援，上架了 AWS、Google Cloud、微軟 Azure 和甲骨文雲，還拉上了 ServiceNow、Snowflake 和戴爾等企業服務巨頭，連 Weights & Biases、Run:AI 等 MLOps 工具也做了深度整合。

硬體方面，黃仁勳還展示了下一代 GH200 Grace Hopper 超級晶片平臺。雙晶片配置塞進了 144 個 Arm Neoverse 核心、8 petaflops 的 AI 算力，以及 282GB 的 HBM3e 記憶體，預計在 2024 年第二季度由系統製造商出貨。

為什麼重要

對開發者和企業技術團隊來說，AI Workbench 最大的價值是大幅降低了試錯成本。以前搭一套可用的模型微調環境動輒耗費數天，現在工程師完全可以在工位上的 RTX 工作站完成概念驗證。這不僅省去了前期昂貴的雲端賬單，也讓內部私有資料的初步測試變得更安全。

對行業而言，這是 NVIDIA 構築護城河的聰明一步。過去大家買 NVIDIA 顯示卡往往只是為了純硬體算力，但現在從底層的 CUDA、中間層的 NeMo 和 Triton，一直到頂層的 Workbench 和 DGX Cloud，NVIDIA 正在把整個生成式 AI 的開發工具鏈全部打通。

我們認為，AI Workbench 表面上是給開發者減負，本質上是在用工作流鎖定企業客戶。當你在本地 RTX 機器上習慣了這套工具，後續擴容時自然而然就會直接買單 DGX Cloud 或搭載 NVIDIA 晶片的雲服務，其他晶片廠商想在生態層面追趕，難度又增加了一層。