本文へスキップ
IFAI

AIモデル

ServiceNowとNVIDIA、企業エージェント向け推論モデル「Apriel Nemotron 15B」をオープンソース公開

公開 拡散指数 46

ServiceNowとNVIDIAは、自律型AIエージェントの処理に向けたオープンソースの推論モデル「Apriel Nemotron 15B」を発表した。NVIDIA NIMマイクロサービスとして低コストかつ低遅延で稼働する。業務データをモデル改善へ還元するデータフライホイール基盤も共同で提供する。

ServiceNowとNVIDIA、企業エージェント向け推論モデル「Apriel Nemotron 15B」をオープンソース公開
画像:zdnet.com

Apriel Nemotron 15Bは、ServiceNowとNVIDIAが共同開発した150億パラメータ(15B)のオープンソース推論言語モデルです。企業向けの自律型AIエージェントを動かすために設計されています。

高度な推論能力をコンパクトなサイズに収めることで、レイテンシと推論コストを大幅に抑えつつ、実務に耐えうる知能を提供します。

何ができるのか

AIエージェントが人の指示を待たずに自律的にタスクを処理するには、状況を自ら分析して最適な手順を導き出す推論能力が欠かせません。

公式ベンチマークテストにおいて、Apriel Nemotron 15Bはこのサイズ帯のモデルとして優れた成績を記録し、複雑なエージェントワークフローへの適性を証明しました。

学習にはNVIDIA NeMoフレームワークを活用し、NVIDIA Llama Nemotron事後学習データセットとServiceNow独自のエンタープライズ業務データを組み合わせています。

仕組みと動作環境

本モデルはNVIDIA NIMマイクロサービスとして提供され、NVIDIA GPU基盤上で安価かつ高速にデプロイできます。

さらに両社は、モデルと連動する「共同データフライホイール構造」も公開しました。

ServiceNow Workflow Data FabricとNVIDIA NeMoマイクロサービスを接続し、日々の業務で発生した対話データをモデルの追加チューニングへ還元するフィードバックループを構築できます。

顧客保護のためのガードレールも組み込まれており、企業データの安全性やガバナンスを保ったまま、コンテキストを理解する専用エージェントを育てることが可能です。

なぜ重要か

超巨大な推論モデルの呼び出しコストや応答速度の遅さに悩んでいた開発チームにとって、有力な実務用の選択肢が登場しました。NIMマイクロサービスとして手元のGPU環境で運用できるため、実運用へのハードルが下がります。

汎用モデルの巨大化を追うのではなく、15Bクラスの小型モデルに特定業務データとフライホイールを組み合わせて実用性を高める手法は、企業の現場において非常に現実的なアプローチです。ただし、このエコシステムを活かすには、自社に整理されたワークフローデータが蓄積されていることが前提になります。

情報源 (1)

  1. [1]
    zdnet.com(新しいタブで開きます)原文zdnet.com

毎日のAIピックアップ