跳到正文
IFAI

开源项目

NVIDIA 发布 Nemotron 3 开源模型:主打多智能体协作,Nano 版即日上线

首次发布 传播指数 48

NVIDIA 发布面向多智能体系统的开源模型家族 Nemotron 3,首发上线的 Nano 版本采用混合专家架构,吞吐量达到前代的 4 倍。官方还同步开源了配套的训练数据集与强化学习工具库。

NVIDIA 发布 Nemotron 3 开源模型:主打多智能体协作,Nano 版即日上线
图:nvidianews.nvidia.com

Nemotron 3 是 NVIDIA 专为多智能体协作打造的开源模型家族。它主打低推理成本和高执行效率,能帮开发者搭建并发调用、多步骤规划的 AI 智能体工作流。

以往把多个大模型串联起来做智能体时,往往会遇到上下文漂移、通信延迟大以及推理费用过高的问题。Nemotron 3 通过引入混合潜在专家(MoE)架构,让模型在保持高精度的同时,把实际激活的参数量压到极低,从而直接降低单次任务的 token 成本。

三种规格与混合专家机制

该系列一共设计了三种尺寸,兼顾边缘计算和重度复杂推理。

首发上线的 Nemotron 3 Nano 总参数量为 300 亿,但每个 token 实际仅激活最多 30 亿参数。根据官方公布的数据,其 token 吞吐量是前代 Nemotron 2 Nano 的 4 倍,推理所需的 reasoning token 生成量减少了最多 60%。此外,Nano 版自带 100 万 token 的超长上下文窗口,独立评测机构 Artificial Analysis 将其评为同级别中兼具最高效率和开源度的领先模型。

另外两款体量更大的版本将在 2026 年上半年陆续推出。其中 Nemotron 3 Super 总参数约 1000 亿,激活 100 亿,面向低延迟的多智能体协同;旗舰款 Nemotron 3 Ultra 总参数约 5000 亿,激活 500 亿,用于深度研究与战略规划。这两款大模型都在 Blackwell 架构上采用了 4 位 NVFP4 格式训练,大幅节省显存并加快了训练速度。

连数据和评测配方一起开源

NVIDIA 这次不仅开放了权重,还把整个训练工具链公之于众。

官方同步放出了总计 3 万亿 token 的预训练、后训练与强化学习数据集,以及一套专门用来检测复杂智能体安全边界的真实遥测数据集。配套发布的 NeMo Gym 和 NeMo RL 提供了强化学习环境与训练框架,Unsloth 和 Prime Intellect 已经将其接入自家工作流。

为了解决行业里跑分不透明的乱象,NVIDIA 还开源了 NeMo Evaluator 测试库,把 Nano 版本的完整测试脚本、Prompt 和运行时配置全盘公开,允许任何人独立验证跑分结果。

在本地部署方面,Nemotron 3 已经支持 LM Studio、llama.cpp、vLLM 和 SGLang 等主流本地推理引擎。开发者现在就可以直接在 Hugging Face 下载 Nemotron 3 Nano,或者通过 OpenRouter、Fireworks、DeepInfra、Baseten 等云端 API 平台直接调用,也可以使用官方的 NVIDIA NIM 微服务在私有算力集群上部署。

为什么重要

如果你正在开发多智能体流程,或者想在本地搭建轻量级代码审查、长文本检索助手,Nemotron 3 Nano 很值得现在就上手试试。激活 30 亿参数意味着它的运行门槛相当亲民,而在百万上下文的加持下,它处理多轮对话工具调用的开销要比常规浓缩模型低得多。

从行业角度看,NVIDIA 这次把数据集、训练框架到评测流程全盘开源,做法相当聪明。它不仅在给自家的 Blackwell 硬件生态铺路,更是在用极高的透明度倒逼其他开源大模型厂商放弃黑盒基准测试。对于需要将业务数据牢牢抓在手中的企业而言,这种完全可复现、高度轻量化的开源路线,比单纯依赖商业封闭接口要可靠得多。

来源 (2)

  1. [1]
    nvidianews.nvidia.com(在新标签页打开)原文nvidianews.nvidia.com
  2. [2]
    huggingface.co(在新标签页打开)报道huggingface.co

每日 AI 内容精选