NVIDIA 詳解 AI Foundry：像台積電代工晶片一樣，幫企業定製大模型

台積電幫全世界代工晶片，現在輝達也想做同樣的事，只不過它代工的不是矽片，而是大模型。

輝達詳細拆解了自家的企業服務 NVIDIA AI Foundry。簡單來說，它把自己定位成 AI 時代的代工廠，企業拿著自己的私有資料走進來，藉助輝達的算力、工具和專家，走出去時就能帶走一個專屬於自己業務的定製大模型。

像造晶片一樣定製模型

大模型雖然聰明，但通用的基礎模型往往不懂各行各業的門道，還容易把企業機密洩露出去。輝達打的算盤，就是讓企業不用自己去從頭訓模型，也不用把核心機密拱手送給通用閉源模型廠商。

在模型庫上，這個代工廠支援 Meta 最新開源的 Llama 3.1，還有谷歌的 Gemma 系列、Mistral、微軟的 Phi-3 以及輝達自家的 Nemotron。

硬體底座則是輝達和亞馬遜 AWS、谷歌雲、甲骨文 OCI 聯合搭建的 DGX Cloud。企業不需要自己掏幾千萬買伺服器搭機房，直接租用雲端算力就能開工。

為了把流程跑通，輝達搬出了整套 NeMo 軟體平臺。裡面分工很細，NeMo Curator 負責用 GPU 加速清洗清洗資料，NeMo Customizer 管微調對齊，NeMo Evaluator 做自動打分，還有 NeMo Guardrails 專門負責對話安全防護，防止 AI 胡說八道。

模型做好了怎麼用？輝達提供了一個叫 NIM 的推理微服務，把模型、底層最佳化引擎和標準 API 打包在一起。不管企業打算放在戴爾、聯想的本地伺服器上，還是部署在公有云上，插上就能跑。

目前第一批吃螃蟹的名單裡，已經有了 SAP、ServiceNow、Snowflake、現代汽車和第一資本銀行。埃森哲甚至基於這個代工廠推出了自己的定製模型服務框架。

為什麼重要

我們認為，輝達這一步走得極其精明，它正試圖把自己在硬體上的壟斷地位無縫平移到軟體和企業服務領域。

對企業來說，通用大模型只是及格線，誰能把私有資料變成懂業務的專有模型，誰才有真正的壁壘。以前企業自己做微調，從洗資料、調參到部署最佳化，到處都是坑。現在有輝達的專家和一整套工具托底，至少把門檻拉低了一大截，很適合那些手握關鍵資料但缺少頂尖 AI 演算法團隊的傳統巨頭。

但這裡的隱患也很明顯。企業一旦走進了這個代工廠，從底層的 DGX 算力、NeMo 軟體鏈條，到部署時的 NIM 容器，整套工作流全被輝達牢牢繫結。這相當於把企業自身的 AI 生命線，徹底交給了輝達的生態系統。

對整個行業而言，輝達不再只是一家賣鐵的鏟子商人，它開始做起了淘金流水線的設計師。那些單純做模型微調和 MLOps 的初創公司，未來的日子看起來會越來越難過了。