NVIDIA 推出 Nemotron 3 Ultra：混合架構吞吐提 5 倍，專攻長程智慧體

Nemotron 3 Ultra 是 NVIDIA 推出的一款開源 MoE 模型，專門用來給長程自律智慧體做複雜推理和任務編排。它擁有 550B 總引數，但每次前向傳播只啟用 55B 引數，上下文長度直接拉到了 1M token。

在多輪工具呼叫、程式碼重構或深度調研任務裡，普通模型往往會因為反覆呼叫堆積上下文，導致推理成本飛漲，且容易偏離目標。Nemotron 3 Ultra 的目標就是提升處理速度並壓縮每輪互動的 token 消耗，在保證深層推理的同時將智慧體任務成本降低最高 30%。

怎麼做到的與實測表現

Nemotron 3 Ultra 採用了 Mamba 與 Transformer 混合架構。Mamba 負責在超長上下文下維持高吞吐，Transformer 則負責在長視窗中精準召回具體事實，兩者結合平衡了效率與召回率。

模型原生支援 NVFP4 精度，同一套權重可以跨 NVIDIA Ampere、Hopper 和 Blackwell 顯示卡執行。得益於 NVFP4 和多 token 預測機制，它實現了同類開源模型 5 倍的吞吐量，在 Blackwell 上相比 BF16 也具備明顯的吞吐優勢。

在 100 萬 token 上下文測試 Ruler @1M 上，Nemotron 3 Ultra 取得了 95% 的準確率，高於 Qwen3.5 的 90%，而 GLM 5.1 與 Kimi K2.6 在該測試中上下文上限僅為 256K。在智慧體效率評測 PinchBench 上它拿到 91% 的成績，在 SWE-bench Verified 程式碼基準中，配合 OpenHands、Hermes 等不同智慧體框架，得分穩定在 65% 至 70.4% 之間。

訓練上，NVIDIA 採用了多教師線上策略蒸餾方法，由十幾個領域專家模型提供密集的獎勵訊號，並在 10T token 基礎上追加了 212B 領域資料，包括 4B 法律合成數據、35B 維基資料和 173B 過濾後的 GitHub 程式碼。

官方還同步推出了兩個輔助模型：4B 引數的 Nemotron 3.5 Content Safety 安全護欄模型，覆蓋 23 個安全類別和 12 種語言；以及端到端延遲低於 100ms 的 Nemotron 3.5 ASR 語音模型，單 checkpoint 支援 40 多種語言。

硬體要求與怎麼上手

該模型採用 Linux 基金會的 OpenMDW-1.1 許可證開源，不僅開放了權重，還放出了 NeMo 訓練指令碼、微調配方以及數千萬條訓練樣本。

由於總引數量達到 550B，本地執行需要高規格算力支援。雲端部署方面，AWS 已經在 SageMaker JumpStart 上提供了基於 ml.p5en.48xlarge、ml.p5.48xlarge 或 ml.g7e.48xlarge 等例項的一鍵部署方案。

在推理框架上，vLLM、SGLang 和 TensorRT-LLM 均已提供支援，官方也打包了 NVIDIA NIM 微服務。想要先體驗的開發者可以在 build.nvidia.com 線上測試，或通過 Perplexity Pro、OpenRouter 呼叫。

在智慧體執行時方面，官方提供了配套的 NVIDIA OpenShell 安全執行沙箱和 NemoClaw 部署工具，方便配合 Hermes Agent、OpenClaw 等開源編排框架快速跑起來。

為什麼重要

如果你正在開發需要長線規劃、程式碼生成或複雜工具呼叫的自律智慧體系統，Nemotron 3 Ultra 很值得現在評估。它把啟用引數壓在 55B，換來了極高的吞吐和更低的單輪 token 開銷，1M 上下文在長程任務裡能減少因記憶截斷帶來的狀態丟失。

不過 550B 的總引數量仍然是硬門檻，即便有 NVFP4 量化，單機部署的視訊記憶體要求對個人和初創團隊來說依然遙不可及，現階段最務實的用法還是直接呼叫第三方推理 API 或雲端託管例項。

從行業來看，NVIDIA 這一次不僅拿出了頂尖水準的開源大模型，還將資料管線、蒸餾框架和沙箱執行時成套交付。這表明智慧體底座的競爭焦點正從單輪基準跑分，全面轉向多輪執行時的吞吐效率和綜合部署成本。