NVIDIA 发布 Nemotron 模型家族:专为 AI 智能体打造,涵盖 Nano 到 Ultra
NVIDIA 推出面向智能体 AI 的 Llama Nemotron 语言模型与 Cosmos Nemotron 视觉模型家族。新模型分 Nano、Super 与 Ultra 三种尺寸,基于 Llama 架构并经剪枝和蒸馏,兼顾边缘与云端部署,大幅降低企业构建多智能体协同的门槛。

造芯片的英伟达,又来给开源大模型「精修」了。这一次,黄仁勋把目光死死盯在了智能体身上。
英伟达宣布推出两套全新的 Nemotron 模型家族:一个是主打语言能力的 Llama Nemotron,另一个是擅长视觉感知的 Cosmos Nemotron。它们不是从零重新预训练的大模型,而是英伟达用自家的 NeMo 框架,把 Meta 下载量超过 6.5 亿次的 Llama 拿来做了大幅度的剪枝、蒸馏和对齐。
说白了,英伟达不想只做卖铲人,它还要把铲子磨得更趁手。以往大家把大模型搬到企业里做客服、查报表,最大的痛点就是模型太笨重、调用外部工具老出错,跑起来还费卡。
把模型切成三档,连 PC 都能跑
英伟达这次的刀法依然很精准,两个系列都直接切出了 Nano、Super 和 Ultra 三个尺寸。
Nano 走的是极致轻量化和低延迟路线,专门给 PC 和边缘设备准备;Super 可以在单张 GPU 上跑出极高的吞吐量,主打性价比;Ultra 则面向数据中心,把推理精度拉满。
在能力侧,英伟达针对指令遵循、工具调用、代码和数学做了专门训练。视觉方面的 Cosmos Nemotron,则是为了让智能体看懂监控、仓库、医院甚至自动驾驶车辆的摄像头画面,配合新发布的视频搜索微服务直接抓取关键信息。
企业软件巨头已经排队进场了。SAP 计划把这套模型塞进自家的 Joule 助手,服务几亿企业员工;ServiceNow 也要用它来自动化处理跨部门的复杂业务流。
所有模型都会陆续上线 Hugging Face 和英伟达官网,开发者计划成员可以免费下载和调用 API;企业要想放进生产环境,就买英伟达的 AI Enterprise 套件。
为什么重要
我们认为,英伟达这一步走得相当精明。
对企业和开发者来说,自己去蒸馏和优化一个 70B 模型成本极高,稍有不慎还会把推理能力改废。英伟达帮你把繁重的后训练和硬件适配全包了,拿来就能做函数调用,还能塞进单卡跑,省下的算力账单非常实在。
更深层的影响在于,英伟达正在用「软件闭环」把客户牢牢按在自己的硬件生态里。它借着 Meta 的开源地基盖楼,再用自家的 NeMo、NIM 微服务打包,表面上是做开源贡献,实际上是给自家的 GPU 算力加上了一层极深的应用护城河。
不过隐患也不是没有。当英伟达既当硬件裁判又当下场踢球的模型优化方,原本生态里的第三方微调平台和中间件厂商,生存空间正在被进一步压缩。对于想摆脱硬件绑定的企业来说,一旦深度接入这套体系,未来想跳去别的芯片架构,代价恐怕会越来越大。
来源 (1)
- blogs.nvidia.com(在新标签页打开)原文blogs.nvidia.com