Nvidia、単一A10で動作するNemotron-Nano-9B-v2を公開：推論のON/OFF切り替えに対応

Nemotron-Nano-9B-v2は、高度な推論性能と扱いやすい運用コストを両立させた、Nvidiaのオープンソース小型言語モデルです。最大の特徴は、AIが回答前に自己検証を行う「推論プロセス」のON/OFFを開発者自身が手軽に切り替えられる点にあります。

コマンド一つで推論を切り替え、速度も大幅向上

多くの推論モデルは常に長時間の思考を行うか、あるいは思考機能そのものを持たないかのどちらかでした。Nemotron-Nano-9B-v2は標準で思考プロセスを出力してから回答しますが、プロンプト内に /think や /no_think といった制御トークンを含めるだけで、その挙動を即座に切り替えられます。

さらに、推論に割り当てるトークン数を制御できるランタイム「思考予算」管理機能も備えています。応答速度を最優先したいカスタマーサポートでは予算を絞り、高い正確性が求められる複雑なタスクでは予算を増やすなど、柔軟なチューニングが可能です。

アーキテクチャには、NvidiaのNemotron-Hシリーズに基づくMambaとTransformerのハイブリッド構造を採用しています。大半の注意機構を線形時間で動作する状態空間モデル（SSM）に置き換えることで、長文脈処理でのスループットが2〜3倍に向上し、同規模の純粋なTransformerモデルと比較して最大6倍の高速化と大規模バッチ処理を実現しています。

単一A10向けに最適化、Qwen3-8B超えのベンチマーク

本モデルは実用性を重視し、当初の120億パラメータから枝刈りによって90億パラメータへと削減されました。クラウドやオンプレミスで広く普及している単一のNvidia A10 GPU上で快適に動作するサイズ感に収められています。

小型化されながらも性能は高く、推論ONモードのNeMo-Skills評価において、MATH500で97.8%、AIME25で72.1%、GPQAで64.0%、LiveCodeBenchで71.1%を記録しました。さらに指示追従テストのIFEvalで90.3%、長文脈を測るRULER 128Kで78.9%をマークし、同クラスの有力競合であるQwen3-8Bを全般的に上回っています。

言語は英語、ドイツ語、スペイン語、フランス語、イタリア語、日本語に対応し、中国語、韓国語、ポルトガル語、ロシア語もカバーします。重みと事前学習データセットはHugging FaceおよびNvidiaのモデルカタログで公開されており、商用利用に寛容な2025年6月更新版のNvidia Open Model Licenseが適用されています。

なぜ重要か

手頃なGPU環境で高精度な自律エージェントや業務ワークフローを構築したい開発者にとって、すぐに検証する価値のあるモデルです。思考コストを固定化せず、トークン予算という形で自由に割り振れる仕組みは、本番環境での遅延対策として非常に実用的です。

また、MambaとTransformerのハイブリッドが実戦配備に耐えうることを実証した点でも意味があります。巨大モデルを漫然と使うのではなく、ハードウェアの制約に合わせて賢く運用するアプローチとして注目に値します。