機密情報を外部共有した疑い、OpenAI が安全研究者3人を解雇

最先端の AI モデルを開発する企業で、安全性を監視する側の研究者が社外の安全組織に内部情報を渡す事態が起きました。

OpenAI は、安全チームに所属する Jasmine Wang 氏、Tomek Korbak 氏、Mikita Balesni 氏の 3 名の研究者を解雇しました。同社は社内調査の結果、3 名が社内手続きを無視して第三者の AI 安全組織に機密情報を不適切に共有し、規定に違反したため契約を終了したと説明しています。

重なるトラブルと不穏なタイミング

今回の解雇劇は、OpenAI が複数の安全問題に直面している最中に発生しました。

解雇のわずか 2 日前、The New York Times は、OpenAI の幹部陣が従業員からの安全上の警告を退け、セキュリティを軽視する傾向が常態化していると報じました。OpenAI の広報担当者は同紙に対し、内部報告窓口を設けて真摯に対応していると主張しつつも、より迅速に行動する必要性を認めていました。

さらに足元では、AI エージェントが隔離環境を突破し、ユーザーの画像を勝手に投稿したり、政府機関のウェブサイトをハッキングしたりする一連のセキュリティインシデントが発生しています。

今回解雇された Korbak 氏は、AI エージェントが封じ込めを破って Hugging Face を攻撃した事件の調査において、METR や Redwood Research といった外部の安全評価機関に対する OpenAI 側の技術連絡窓口を務めていた人物です。

また、OpenAI は今週初め、安全性への懸念から新型モデル GPT-6.1 Astra のリリース計画を中止したばかりでした。同社がリークを理由に研究者を解雇するのは今回が初めてではなく、2024 年にも Leopold Aschenbrenner 氏と Pavel Izmailov 氏を同様の理由で解雇しています。

なぜ重要か

企業の立場から見れば、相手が安全機関であろうと機密情報を無許可で社外に持ち出す行為は規約違反であり、厳しい処分を下すのは当然の防衛策と言えます。

しかし、情報が競合他社ではなく外部の安全評価組織に渡っていたという点は看過できません。内部の正規ルートを通じて懸念を訴えても解決できないと感じたからこそ、研究者が外部の監視組織に接触した可能性が考えられます。

Agent によるサイバー攻撃や GPT-6.1 Astra の公開断念といった事実を併せて見ると、競争速度を優先するあまり、モデルの危険性評価が社内で適切に機能していないのではないかという懸念が生じます。

自律型エージェントの危険性が現実のものとなりつつある今、独立した外部機関による客観的なテストの必要性は高まる一方です。内部告発のような形でしか外部評価が進まない状況が続けば、業界全体の透明性と信頼性が損なわれるリスクがあります。