本文へスキップ
IFAI

AIモデル

NVIDIA、自律エージェント向けオープンモデル「Nemotron 3 Ultra」を公開

公開 拡散指数 62

NVIDIAは長時間稼働するAIエージェント向けに「Nemotron 3 Ultra」を公開した。総パラメータ550B・活性55BのMoE構成で、MambaとTransformerのハイブリッド設計によりスループットを5倍に高め、タスクコストを最大30%削減する。安全性評価モデルや音声認識モデルも同時に提供される。

画像:developer.nvidia.com

Nemotron 3 Ultraは、長時間の自律稼働を行うAIエージェント向けにNVIDIAが公開したオープンソースのMoEモデルだ。総パラメータ数は550Bに達するが、順伝播時の活性パラメータを55Bに抑えており、コンテキスト長は最大1Mトークンをサポートする。

ツールの連続呼び出しやコード修正、調査タスクをこなす自律エージェントでは、履歴の肥大化に伴ってコストが急増し、目標から逸脱しやすい問題があった。Nemotron 3 Ultraは、推論スループットを高めつつ1ターンあたりの消費トークンを削減することで、エージェントタスクの運用コストを最大30%引き下げる。

仕組みとベンチマーク性能

本モデルは純粋なTransformerではなく、MambaとTransformerのハイブリッド構造を採用している。Mamba層が長大なシーケンスを高速に処理し、要所に配置されたTransformer層が長文コンテキストからの精密な事実抽出を担う。

モデルはNVFP4精度に最適化されており、同一のチェックポイントがNVIDIA Ampere、Hopper、Blackwellの各GPUで動作する。マルチトークン予測機構と組み合わさることで、同クラスのオープンモデルと比較して5倍のスループットを実現した。

100万トークンの長文テスト「Ruler @1M」では95%の精度を記録し、Qwen3.5の90%を上回った。なお、比較対象のGLM 5.1やKimi K2.6のコンテキスト上限は256Kにとどまる。エージェント効率を測るPinchBenchでは91%に達し、SWE-bench VerifiedでもOpenHandsやHermesなどのフレームワーク上で65%〜70.4%の安定したスコアを示した。

学習には10以上の専門家モデルからフィードバックを得るマルチティーチャー・オンポリシー蒸留を採用した。さらに、23の安全カテゴリに対応した4Bのガードレールモデル「Nemotron 3.5 Content Safety」や、40以上の言語で遅延100ms未満を達成する音声認識モデル「Nemotron 3.5 ASR」も同時に提供される。

動作要件と利用方法

ライセンスにはLinux FoundationのOpenMDW-1.1が採用されており、重みだけでなくNeMoのファインチューニング用スクリプトや学習データセットもオープンに公開されている。

総パラメータが550Bと巨大なため、ローカルでの実行には大規模なエンタープライズ向けGPU環境が必要となる。クラウド環境では、Amazon SageMaker JumpStartが即日対応しており、ml.p5en.48xlargeやml.g7e.48xlargeなどのインスタンスでワンクリックデプロイが可能だ。

推論ソフトウェアはvLLM、SGLang、TRT-LLMが対応し、NVIDIA NIMコンテナも用意されている。手軽に試したい場合は、build.nvidia.com上のデモやPerplexity Pro、OpenRouter経由で利用できる。

また、エージェントを安全に実行するためのサンドボックス「NVIDIA OpenShell」やセットアップ用ツール「NemoClaw」も提供されており、Hermes Agentなどと連携してすぐに環境を構築できる。

なぜ重要か

複数ステップにわたるコード自動生成やリサーチ自動化など、複雑なエージェントシステムを開発しているなら、Nemotron 3 Ultraは検証に値する。55Bのアクティブパラメータによる高速なレスポンスと、1Mの長文耐性は、長時間動かすエージェントの運用コストを確実に抑えてくれる。

一方で、4bit量子化を用いても550Bモデルを自前インフラでホストするハードルは依然として高い。個人開発者や中小規模のチームにとっては、ホスティングAPIやクラウドの従量課金エンドポイントを利用するのが現実的だ。

業界全体から見れば、NVIDIAがモデル単体にとどまらず、蒸留フレームワーク、安全性評価モデル、セキュアな実行サンドボックスまで一括してオープン化した意義は大きい。オープンモデルの競争軸が、単発のベンチマーク競争からエージェントの実運用コストへと移行し始めている。

情報源 (2)

  1. [1]
    developer.nvidia.com(新しいタブで開きます)原文developer.nvidia.com
  2. [2]
    aws.amazon.com(新しいタブで開きます)報道aws.amazon.com

毎日のAIピックアップ