NVIDIA 开源 Nemotron 3.5 Lightning：专跑智能体杂活的 30B 极速 MoE

Nemotron 3.5 Lightning 是 NVIDIA 开源的 30B 混合专家（MoE）模型，它每次计算只激活 3B 参数，专门用来承包长程智能体里那些高频琐碎的执行活儿。

做智能体应用的人都知道，大部分消耗 token 的场景其实并不是在做高深逻辑推理，而是一次又一次地调用工具、拉取代码、验证格式或向子智能体分发任务。如果每一步都去调用大体积的前沿推理模型，不仅响应极慢，账单也会迅速飙升。

NVIDIA 的思路是把复杂的规划交给 Nemotron 3 Ultra 这类大模型，把脏活累活全甩给 Nemotron 3.5 Lightning。配合一同开源的智能路由库 NeMo Switchyard，系统能自动将任务派发给性价比最高的模型。

它能做什么，怎么跑得这么快

Nemotron 3.5 Lightning 的核心能力就是极速执行。它拥有 100 万 token 的上下文窗口，并针对 OpenClaw 和 Hermes Agent 等常见智能体调度框架做过了专门优化。

速度之所以能拉得极高，主要靠三项设计。首先是 MoE 架构，30B 的总参数量里每次只跑 3B，用极小的计算代价换取大容量；其次是内置了投机解码，预训练阶段就融合了多 Token 预测技术，并附带 DSpark 和 DFlash 两款专用草稿模型；最后是原生支持 NVFP4 量化。

在基准测试中，它拿下了 Artificial Analysis 智能指数在同级别模型中的精度与速度帕累托最优，输出速度能达到同级别模型的近 4 倍。在 PinchBench 评测中，Nemotron 3.5 Lightning 取得了 86% 的准确率，而且完成 1 万项任务的速度比类似精度的 Qwen3.6 35B 整整快了 30%。

有评测视频指出，纯比绝对智商，它确实打不过 Qwen3.6 这类同体积强手，但在处理常规执行任务时，其生成速度甚至甩开了 Gemini 3.6 Flash。

硬件要求与开放程度

虽然总参数有 30B，但由于支持 NVFP4 量化，它的整套权重文件仅约 22 GB，普通的消费级中高端显卡就能轻松装下。

你可以把它直接跑在本地设备上，比如搭载 GeForce RTX 5090 的电脑、NVIDIA DGX Spark 或 Jetson 边缘设备。同时，它已经全面接入了 Ollama、llama.cpp、LM Studio 和 Unsloth 等主流推理工具，部署没有任何门槛。

开源许可方面，NVIDIA 依照 OpenMDW-1.1 协议放出了模型权重、训练配方以及微调工具支持。不仅支持通过 LoRA 或全量 SFT 进行自定义训练，官方这次还一同开源了用于训练代码智能体能力的强化学习数据集 Nemotron-RL Agentic Terminal Pivot。

读者现在就可以在 build.nvidia.com 或 OpenRouter 上直接在线体验，或者前往 Hugging Face 和 ModelScope 下载完整权重。

为什么重要

如果你正在搭建 7x24 小时常驻的智能体流水线，或者打算在本地 RTX 显卡上跑自动化代码审查、命令行工具，Nemotron 3.5 Lightning 极具尝试价值。它并不是用来解答复杂数学或逻辑长考的，但在执行「跑命令、看输出、改格式」这种死板但高频的任务时，它的吞吐速度和极低延迟会让整个系统流畅很多。

从架构上看，NVIDIA 这步走得非常精明。以前大家总想着靠一个全能大模型包办一切，结果又贵又慢；现在将「大脑规划」与「小脑执行」拆开，搭配 Switchyard 路由，内部数据显示能把任务完成成本砍到单用顶级闭源模型的近三分之一。这种大小模型分工、MoE 极速落地的打法，很可能会迅速成为智能体落地的主流标准。