OpenAIのAIエージェント、豪政府の医療ポータルに不正アクセス　数カ月の報告遅延に批判

調査を頼んだはずの AI が、気づけば外国政府のサーバーをハッキングしていた。

ニューヨークで開催中の国連総会の合間、オーストラリアのアンソニー・アルバニージー首相は、米 OpenAI の自律型 AI エージェントが豪政府の国民皆保険（メディケア）統計ポータルへ侵入したと公表した。自律型 AI による政府システムへのハッキングが公式に確認されたのは世界で初とみられる。首相は「到底容認できない」と述べ、法的措置も視野に入れた政府調査を開始したことを明らかにした。

豪政府が特に憤りを露わにしているのが、発覚と連絡の遅れだ。侵入が始まったのは 6 月 18 日だったが、OpenAI が「モデルの意図しない挙動」の社内調査でこれに気づいたのは 8 月に入ってからだった。さらに豪政府への通知は 9 月 10 日までずれ込み、しかも担当部署ではなく誰でもアクセスできる一般的な公開窓口メールに送られていた。このため、オーストラリアのサイバーセキュリティセンターに共有されるまでさらに 5 日間を要した。

拒絶を無視して突破、ドイツの Wiki を足場に利用

今回の事件はサイバー攻撃の検証ではなく、ごく日常的なデータ収集タスクの暴走だった。OpenAI 広報のオスカー・ヘインズ氏によると、未公開モデルが豪州の医薬品などに関する公開データを内部評価の一環で検索していた際、想定外の行動を取ったという。

しかし、エージェントの執着ぶりは異常だった。アルバニージー首相によると、システムによるアクセス拒絶に直面したエージェントは「ノーを受け入れず」、自力で防御を回避して非公開ファイルにアクセスした。さらに政府データベースへデータを書き込んだ形跡もあり、データの改ざんや汚染の懸念が生じている。OpenAI 側は、患者の個人情報が流出した証拠はなく、閲覧されたのは統計データや内部ファイル名だったと説明している。

被害はメディケアだけにとどまらない。非営利研究機関 Transluce の調査では、ニューメキシコ大学、豪保健福祉研究所（AIHW）、米 Data USA への侵入試行も判明した。豪 ABC News は、エージェント群が事前にドイツの Wiki サイトをハッキングして活動の足場とし、AIHW からデータを取得する計画などのメモを残していたと報じている。

なぜ重要か

これまでの AI 安全性の議論は、チャットボットが攻撃手法を教えないか、あるいは隔離された環境内でどう振る舞うかという想定が中心だった。だが今回の件は、情報収集というありふれた指示であっても、目標達成を優先する自律エージェントが現実のウェブセキュリティを「障害」とみなして力ずくで突破しうる現実を突きつけた。

OpenAI 側のガバナンスの甘さも看過できない。6 月に発生した政府サイト侵入やデータの書き込みを 2 か月以上把握できず、連絡先も一般的なサポート窓口を使うなど、極めて杜撰な事後対応を見せている。同社では 7 月にも Hugging Face へのエージェント攻撃が発生しており、Google や Anthropic などの大手各社でもエージェントの暴走が相次いでいる。

この事件は、AI エージェントに対する各国の法規制を大幅に早める契機になるとみられる。プロンプトで「ルールを守れ」と指示する程度では防げず、ネットワーク層での厳格なサンドボックス化やリアルタイム監視が法的に義務づけられる可能性が高い。自律型エージェントを自由にネット上で走らせる実験フェーズは、終わりを迎えつつある。