NVIDIA、NeMoマイクロサービスを一般提供：企業のAI同僚構築を加速

動くAIエージェントを作ること自体は難しくありませんが、運用開始から1か月後にポンコツ化させないように維持するのは極めて困難です。

質の高いデータが継続的に入ってこないと、本番環境のAIはすぐに的外れな回答を始めます。NVIDIAは4月23日、企業向けに「データフライホイール」を構築し、AIエージェントをデジタル同僚として定着させるための「NeMoマイクロサービス」の一般提供（GA）を開始しました。

このツール群はNVIDIA AI Enterpriseソフトウェアプラットフォームを通じて提供され、オンプレミスでもクラウドでも動作します。開発者はNVIDIA NGCカタログから直接ダウンロード可能です。

微調整から評価、ガードレールまでを効率化

今回GAとなったNeMoマイクロサービスには、複数の専用ツールが含まれています。

モデル微調整を担う「NeMo Customizer」は、SFT（教師あり微調整）やLoRAに対応し、トレーニングのスループットを最大1.8倍に引き上げます。「NeMo Evaluator」を使えば、わずか5回のAPIコールで独自基準や業界ベンチマークに基づくモデル評価を実行できます。

安全性を担保する「NeMo Guardrails」は、わずか0.5秒のレイテンシ追加でコンプライアンス保護性能を最大1.4倍向上させます。これらがNeMo RetrieverやCuratorと連動し、推論ログ、業務データ、ユーザーフィードバックという3つのデータを循環させてモデルを自動強化します。

対応モデルも幅広く、Llama、Microsoft Phi、Google Gemma、Mistral、そしてNVIDIA自前のLlama Nemotron Ultraをカバー。Metaは自社のLlamastack向けコネクタを通じてNeMoマイクロサービスを利用できるようにしています。

AT&Tやシスコが明かした成果

すでに先行導入している大企業からも、具体的な数字が公開されています。

AT&TはArizeやQuantiphiと連携し、毎週更新される約1万件の社内文書を処理するAIを構築。NeMo CustomizerとEvaluatorでMistral 7Bをファインチューニングした結果、精度が最大40%向上したと報告しています。

シスコのOutshiftチームはコーディング支援ツールに導入し、ツール選択ミスを40%削減、応答速度を最大10倍に高速化しました。ナスダックも検索基盤にNeMo Retrieverを組み込み、精度と応答速度を最大30%改善しています。ブラックロックも資産運用プラットフォーム「Aladdin」で活用を進めています。

なぜ重要か

企業の開発者にとって、エージェント導入の最大の壁は初期構築ではなく運用の継続性です。NeMoは微調整、評価、安全制御という泥臭い工程をAPIベースのマイクロサービスとして規格化しました。金融や通信のように規制が厳しい領域でマルチエージェントを動かしたい組織なら、今すぐ試す価値があります。

業界全体から見れば、NVIDIAのソフトウェアによる囲い込みが一段と強まったと言えます。LangChainやLlamaIndexなどのフレームワーク、主要ストレージ企業、大手コンサルティング企業までを巻き込むことで、企業のAI開発インフラを自社基盤に縛り付ける構造を固めています。

独自の業務アプリを作るのではなく、誰もが必要とする「データ循環の配管」を押さえにいくやり方は極めて巧みです。ただし、このフライホイールを回すには、社内データの整理が前提となるうえ、NVIDIA AI Enterpriseの高額なライセンスと計算リソースが必要です。自社データが未成熟な企業にとっては、導入しても即座に魔法のような効果は期待できない点に注意が必要です。