NVIDIA 開源 Nemotron 3.5 Lightning：專跑智慧體雜活的 30B 極速 MoE

Nemotron 3.5 Lightning 是 NVIDIA 開源的 30B 混合專家（MoE）模型，它每次計算只啟用 3B 引數，專門用來承包長程智慧體裡那些高頻瑣碎的執行活兒。

做智慧體應用的人都知道，大部分消耗 token 的場景其實並不是在做高深邏輯推理，而是一次又一次地呼叫工具、拉取程式碼、驗證格式或向子智慧體分發任務。如果每一步都去呼叫大體積的前沿推理模型，不僅響應極慢，賬單也會迅速飆升。

NVIDIA 的思路是把複雜的規劃交給 Nemotron 3 Ultra 這類大模型，把髒活累活全甩給 Nemotron 3.5 Lightning。配合一同開源的智慧路由庫 NeMo Switchyard，系統能自動將任務派發給價效比最高的模型。

它能做什麼，怎麼跑得這麼快

Nemotron 3.5 Lightning 的核心能力就是極速執行。它擁有 100 萬 token 的上下文視窗，並針對 OpenClaw 和 Hermes Agent 等常見智慧體排程框架做過了專門最佳化。

速度之所以能拉得極高，主要靠三項設計。首先是 MoE 架構，30B 的總引數量裡每次只跑 3B，用極小的計算代價換取大容量；其次是內建了投機解碼，預訓練階段就融合了多 Token 預測技術，並附帶 DSpark 和 DFlash 兩款專用草稿模型；最後是原生支援 NVFP4 量化。

在基準測試中，它拿下了 Artificial Analysis 智慧指數在同級別模型中的精度與速度帕累托最優，輸出速度能達到同級別模型的近 4 倍。在 PinchBench 評測中，Nemotron 3.5 Lightning 取得了 86% 的準確率，而且完成 1 萬項任務的速度比類似精度的 Qwen3.6 35B 整整快了 30%。

有評測影片指出，純比絕對智商，它確實打不過 Qwen3.6 這類同體積強手，但在處理常規執行任務時，其生成速度甚至甩開了 Gemini 3.6 Flash。

硬體要求與開放程度

雖然總引數有 30B，但由於支援 NVFP4 量化，它的整套權重檔案僅約 22 GB，普通的消費級中高階顯示卡就能輕鬆裝下。

你可以把它直接跑在本地裝置上，比如搭載 GeForce RTX 5090 的電腦、NVIDIA DGX Spark 或 Jetson 邊緣裝置。同時，它已經全面接入了 Ollama、llama.cpp、LM Studio 和 Unsloth 等主流推理工具，部署沒有任何門檻。

開源許可方面，NVIDIA 依照 OpenMDW-1.1 協議放出了模型權重、訓練配方以及微調工具支援。不僅支援通過 LoRA 或全量 SFT 進行自定義訓練，官方這次還一同開源了用於訓練程式碼智慧體能力的強化學習資料集 Nemotron-RL Agentic Terminal Pivot。

讀者現在就可以在 build.nvidia.com 或 OpenRouter 上直接線上體驗，或者前往 Hugging Face 和 ModelScope 下載完整權重。

為什麼重要

如果你正在搭建 7x24 小時常駐的智慧體流水線，或者打算在本地 RTX 顯示卡上跑自動化程式碼審查、命令列工具，Nemotron 3.5 Lightning 極具嘗試價值。它並不是用來解答覆雜數學或邏輯長考的，但在執行「跑命令、看輸出、改格式」這種死板但高頻的任務時，它的吞吐速度和極低延遲會讓整個系統流暢很多。

從架構上看，NVIDIA 這步走得非常精明。以前大家總想著靠一個全能大模型包辦一切，結果又貴又慢；現在將「大腦規劃」與「小腦執行」拆開，搭配 Switchyard 路由，內部資料顯示能把任務完成成本砍到單用頂級閉源模型的近三分之一。這種大小模型分工、MoE 極速落地的打法，很可能會迅速成為智慧體落地的主流標準。