跳到正文
IFAI

大模型

NVIDIA 釋出 Nemotron 模型家族:專為 AI 智慧體打造,涵蓋 Nano 到 Ultra

首次發布 傳播指數 48

NVIDIA 推出面向智慧體 AI 的 Llama Nemotron 語言模型與 Cosmos Nemotron 視覺模型家族。新模型分 Nano、Super 與 Ultra 三種尺寸,基於 Llama 架構並經剪枝和蒸餾,兼顧邊緣與雲端部署,大幅降低企業構建多智慧體協同的門檻。

NVIDIA 釋出 Nemotron 模型家族:專為 AI 智慧體打造,涵蓋 Nano 到 Ultra
圖:blogs.nvidia.com

造晶片的輝達,又來給開源大模型「精修」了。這一次,黃仁勳把目光死死盯在了智慧體身上。

輝達宣佈推出兩套全新的 Nemotron 模型家族:一個是主打語言能力的 Llama Nemotron,另一個是擅長視覺感知的 Cosmos Nemotron。它們不是從零重新預訓練的大模型,而是輝達用自家的 NeMo 框架,把 Meta 下載量超過 6.5 億次的 Llama 拿來做了大幅度的剪枝、蒸餾和對齊。

說白了,輝達不想只做賣鏟人,它還要把鏟子磨得更趁手。以往大家把大模型搬到企業裡做客服、查報表,最大的痛點就是模型太笨重、呼叫外部工具老出錯,跑起來還費卡。

把模型切成三檔,連 PC 都能跑

輝達這次的刀法依然很精準,兩個系列都直接切出了 Nano、Super 和 Ultra 三個尺寸。

Nano 走的是極致輕量化和低延遲路線,專門給 PC 和邊緣裝置準備;Super 可以在單張 GPU 上跑出極高的吞吐量,主打價效比;Ultra 則面向資料中心,把推理精度拉滿。

在能力側,輝達針對指令遵循、工具呼叫、程式碼和數學做了專門訓練。視覺方面的 Cosmos Nemotron,則是為了讓智慧體看懂監控、倉庫、醫院甚至自動駕駛車輛的攝像頭畫面,配合新發布的影片搜尋微服務直接抓取關鍵資訊。

企業軟體巨頭已經排隊進場了。SAP 計劃把這套模型塞進自家的 Joule 助手,服務幾億企業員工;ServiceNow 也要用它來自動化處理跨部門的複雜業務流。

所有模型都會陸續上線 Hugging Face 和輝達官網,開發者計劃成員可以免費下載和呼叫 API;企業要想放進生產環境,就買輝達的 AI Enterprise 套件。

為什麼重要

我們認為,輝達這一步走得相當精明。

對企業和開發者來說,自己去蒸餾和最佳化一個 70B 模型成本極高,稍有不慎還會把推理能力改廢。輝達幫你把繁重的後訓練和硬體適配全包了,拿來就能做函式呼叫,還能塞進單卡跑,省下的算力賬單非常實在。

更深層的影響在於,輝達正在用「軟體閉環」把客戶牢牢按在自己的硬體生態裡。它藉著 Meta 的開源地基蓋樓,再用自家的 NeMo、NIM 微服務打包,表面上是做開源貢獻,實際上是給自家的 GPU 算力加上了一層極深的應用護城河。

不過隱患也不是沒有。當輝達既當硬體裁判又當下場踢球的模型最佳化方,原本生態裡的第三方微調平臺和中介軟體廠商,生存空間正在被進一步壓縮。對於想擺脫硬體繫結的企業來說,一旦深度接入這套體系,未來想跳去別的晶片架構,代價恐怕會越來越大。

來源 (1)

  1. [1]
    blogs.nvidia.com(在新分頁開啟)原文blogs.nvidia.com

每日 AI 內容精選