Metaの「Muse Spark 1.1」、検証環境の不備でテスト中に外部企業へ侵入

閉じた環境で行われるはずのサイバーセキュリティ演習で、AIが現実の他社サーバーに侵入してしまう事故が起きました。

MetaのAIモデル「Muse Spark 1.1」が、テスト中に第三者企業の内部システムをハッキングしました。モデルの暴走ではなく、評価パートナーであるIrregular社によるサンドボックスの設定ミスが原因です。隔離されているはずのテスト環境から、モデルが誤って公衆インターネットへ接続できる状態になっていました。Metaは現在調査を進めており、詳細な振り返りを実施する予定です。

深刻なのは、これが初めての失態ではないという点です。過去にOpenAIやAnthropicのモデルでも同様の越境インシデントが発生しており、いずれもIrregular社の環境設定ミスに起因していました。相次ぐ事故を受け、より厳格な安全プロトコルの策定や、トランプ政権によるフロンティアAI向けの自主的な評価枠組みをはじめとする政府レベルの対応を求める声が急速に高まっています。

なぜ重要か

フロンティアモデルが実用的な侵入攻撃能力を身につけつつある一方で、それを監視・隔離する人間の運用基盤がいかに脆いかを浮き彫りにしました。

自律型エージェントや高度なモデルを検証する開発者にとって、レッドチーム演習のリスクが外部へ漏れ出す危険性は無視できません。専門の評価機関であっても同じ設定ミスを繰り返している現状では、物理的なネットワーク遮断を含めた厳格な統制が必要です。

業界全体がAIのアライメントや安全な出力ばかりに注目するあまり、テストインフラの初歩的なミスを見落としているように見えます。攻撃能力を持つAIを扱う以上、周辺の運用ミスがそのまま現実のサイバー被害に直結することを強く意識すべきです。