NVIDIAがNemotron 3.5 Lightning公開：常駐エージェント実行に特化した30B MoE

Nemotron 3.5 Lightningは、NVIDIAがオープンソースとして公開した30BのMixture of Experts（MoE）モデルです。1トークンあたりに活性化するパラメータをわずか3Bに抑え、常駐型AIエージェントにおける高頻度な実行タスクを高速にさばくために設計されています。

長時間稼働するAIエージェントの処理の大半は、複雑な推論ではなく、ツールの呼び出し、コマンド実行、出力結果の検証といった定型作業です。こうした実行ステップごとに大規模なフロンティアモデルを動かしていると、莫大なコストと遅延が発生してしまいます。

そこでNVIDIAは、全体の計画立案を上位モデルに任せ、泥臭い実行フェーズをNemotron 3.5 Lightningに一任する構成を提案しています。同時に公開されたスマートルーティング用オープンソースライブラリ「NeMo Switchyard」を使えば、タスクの性質に応じて最適なモデルへ自動で処理を振り分けられます。

何ができるのか、なぜこれほど速いのか

Nemotron 3.5 Lightningの最大の強みは、エージェント実行における圧倒的なスループットです。コンテキスト長は100万トークンに対応し、OpenClawやHermes Agentといった代表的なエージェントフレームワーク向けに事前調整されています。

この驚異的な高速化は、30B中3Bのみを動かすMoE設計に加え、推論最適化技術によって支えられています。事前学習段階からマルチトークン予測（MTP）を組み込んだ投機的デコーディングを採用しており、DSparkおよびDFlashという2種類のドラフトモデルも同梱されています。さらに、BF16に加えてNVFP4量子化チェックポイントも標準提供されています。

Artificial Analysisの評価インデックスでは、同クラス最高の速度と精度を両立するパレート最適を記録しました。ベンチマーク「PinchBench」では86%の精度を達成し、同等の精度を持つQwen3.6 35Bと比べて1万件のタスクを30%早く完了させています。純粋な推論能力では一部の競合に譲るものの、生成速度はGemini 3.6 Flashをも上回る水準です。

動作環境とオープン性

NVFP4量子化版のファイルサイズは約22GBに収まるため、GeForce RTX 5090を搭載したPCやNVIDIA DGX Spark、Jetsonなどのローカル環境でも十分に動作します。

また、Ollama、llama.cpp、LM Studio、Unslothといった主要なオープンソース推論ツールに対応しているため、手元での検証も容易です。

ライセンスはOpenMDW-1.1に準拠しており、重みだけでなくトレーニングデータやレシピも公開されています。NeMoフレームワークを用いたLoRAやSFTの追加学習が可能で、コーディングエージェント向けの強化学習データセット「Nemotron-RL Agentic Terminal Pivot」も提供されています。モデルはHugging FaceやModelScopeから入手可能で、build.nvidia.comやOpenRouterですぐに試せます。

なぜ重要か

24時間稼働するエージェントを開発しているチームや、ローカルGPUでツール呼び出しを多用する開発者にとって、すぐに試す価値のあるモデルです。難解な推論を解かせる用途には向きませんが、ツールの反復実行やフォーマット整形といった「作業員」としての処理能力は群を抜いています。

フロンティアモデル単体にすべてを依存するのではなく、ルーティングを介して軽量なMoE実行モデルに雑務を逃がす手法は極めて実用的です。NVIDIAの検証によれば、上位モデル単体で動かす場合に比べてタスク完了コストを約3分の1に抑えられるとされており、今後のエージェント開発における費用対効果の最適解を示す動きと言えます。