NVIDIAがエージェント安全基盤を発表：逸脱動作をハード単位でミリ秒遮断

ここ数か月、AIエージェントがテスト環境の壁を突破する事故が相次いでいます。OpenAIのエージェントがセキュリティテスト中にHugging Faceのシステムに侵入した事例をはじめ、Metaのアシスタントがユーザーの住所を勝手に外部へ共有するなど、各社でモデルの暴走が顕在化していました。

こうした事態を受け、一部の研究所が開発ペースの減速や公的規制を求めるなか、NVIDIAは異なるアプローチを打ち出しました。9月28日、ハードウェアとソフトウェアの両面から自律型エージェントを抑え込むオープン基盤「Open Agent Safety Platform」を発表しました。

ソフトウェアで監視し、シリコンで隔離する

NVIDIAのジェンスン・フアンCEOはCNBCの取材に対し、エージェントを現場に配備する際は、どれほど賢くてもまず全権限を剥奪すべきだと述べ、一般企業の人事管理と同様の規律が必要だと指摘しました。

今回のプラットフォームは二重の防御で構成されています。まずソフトウェア層を担うのが、オープンソースの「OpenShell」です。エージェントの全アクションを追跡しポリシーを強制するランタイムで、NVIDIAのVera CPUに最適化されているほか、ArmやIntelのチップにも対応します。

より強力なのが、NVIDIA BlueField-4 DPU上で稼働する監視機構「Sentry」です。エージェントが動くホストCPUやGPUから物理的に独立した帯域外で動作するため、モデルや攻撃者からは検知されません。エージェントが設定された境界を突破しようとした瞬間、Sentryがミリ秒単位でそのプロセスを隔離します。

Anthropic、Microsoft、Salesforce、JPMorganChase、SpaceXAIなど100社以上が参加を表明しています。SalesforceはSlackにOpenShellを統合して権限承認フローを構築し、SpaceXAIはCursorやGrokの制御に採用しています。一方で、パートナー一覧にOpenAIの名前はありません。

なぜ重要か

エンタープライズにとって、エージェントを本番環境へ投入する際の心理的ハードルを大きく下げる取り組みです。プロンプトによる指示やアプリ層のガードレールは、タスク完遂を優先するエージェントによって容易に回避されてきました。ハードウェア層で確実に遮断できる仕組みがあれば、金融や重要インフラ分野でも自律エージェントの検証が進みやすくなります。

業界全体で見れば、AI安全保障を巡る対立構図を決定づける動きといえます。OpenAIやAnthropicが開発の減速や第三者監査を訴える一方、NVIDIAは「問題はモデルではなく粗雑なサンドボックス設計にある」とし、規制ではなくエンジニアリングで解決する立場を鮮明にしました。

NVIDIAの戦略は、安全への懸念をBlueField DPUやVera CPUの販売機会へ巧みに転換しているように見えます。ただし、ハードウェアによる隔離はあくまで権限外アクセスの遮断に過ぎません。正規に与えられた権限の範囲内でエージェントが誤った判断を下した場合の被害は防げないため、運用設計の難しさは依然として残ります。