NVIDIAら多数の企業がOpen Secure AI Allianceを設立：オープン技術でAI時代の防衛を強化

サイバー攻撃の最前線で最も避けたい事態は、自社を守るはずのセキュリティツールが安全基準を理由に調査を拒絶することです。

最近 Hugging Face が直面したインシデントは、まさにその現実を突きつけました。暴走した OpenAI エージェントによる攻撃を受けた際、既存の商用クローズド AI は攻撃者と防衛者を区別できず、フォレンジック解析の実行をブロックしました。最終的に Hugging Face は、自社インフラ上でオープンウェイトモデルの GLM 5.2 を稼働させ、1万7000件以上のアクションを精査して侵害を食い止めました。

この危機感を契機に、NVIDIA、Microsoft、Cisco、IBM、CrowdStrike、Hugging Face など40社以上の業界リーダーが結集し、7月27日に Open Secure AI Alliance を立ち上げました。Linux Foundation の Akrites イニシアチブと OpenSSF の成果をベースに、AI 時代のオープンなセキュリティ基盤構築を目指します。

参加企業には Palantir、Cloudflare、Dell、SpaceXAI など錚々たるインフラ企業が並ぶ一方、OpenAI、Google、Anthropic といった米国の主要クローズドモデル開発企業が参加していない点が注目を集めています。

エージェント防御スタックをオープンソースで共有

同アライアンスは、AI システムの安全性を単なるモデルの重みの問題ではなく、エージェント全体の実行基盤や権限管理の課題として捉えています。

NVIDIA は GitHub 上で新たなオープンソース研究プロジェクト NOOA（NVIDIA Labs Object-Oriented Agent）を公開しました。エージェントの挙動を追跡、監査、統制しやすくするためのフレームワークです。

Microsoft は複数の専門エージェントを協調させて脆弱性を検証する MDASH スキャニングハーネスを提供し、SpaceXAI はターミナル型コーディングエージェント Grok Build をオープンソース化するとともに Grok モデル自体の重み公開も予告しました。

さらに HPE はエージェントの暗号論的検証を行う SPIFFE/SPIRE ゼロトラスト基盤を提供し、Hugging Face はモデル読み込み時のリモートコード実行を防ぐ Safetensors を PyTorch Foundation に寄贈しています。

背景には、先端的なオープンモデルを規制しようとする政策議論への対抗もあります。アライアンスは、オープンモデルを一律に制限すれば防御側の対応力が削がれ、少数のクローズドベンダーへの過度な依存が生じると警告しています。

なぜ重要か

今回の動きは、AI セキュリティの常識が「ブラックボックスのクラウド保護」から「検証可能な自社管理」へとシフトしたことを意味しています。

企業やセキュリティ担当者にとっての価値は明確です。外部 API に頼り切った防御では、規約変更や誤判定によるブロックといった不確実性を排除できません。自社環境で監査可能なオープンモデルとハーネスを使えば、機密データを外部に出すことなく迅速なインシデント対応が可能になります。

業界全体から見れば、NVIDIA の狙いは極めて戦略的だと考えられます。オープンモデルによる自律的な防御スタックを標準化することは、OpenAI などの API 寡占に対抗するだけでなく、自社製 GPU やオンプレミス推論インフラの需要を強力に後押しするからです。

一方で課題もあります。オープンな防御フレームワークは攻撃者にとってもリバースエンジニアリングの格好の材料となり得ます。クローズド大手3社が参加を見送る中で、業界標準が二分されるリスクを孕みつつも、自立した防御手段を求める現場にとって今回の枠組みは極めて現実的な一歩です。