OpenAIに解雇された研究者3名が反論、社内文化の「委縮効果」に警鐘

モデルにブレーキをかけるはずのAI安全性研究者自身が、組織からブレーキをかけられる事態が起きています。

OpenAIから先週解雇された3名の安全性研究者、Jasmine Wang氏、Tomek Korbak氏、Mikita Balesni氏が10月8日、同社の安全性諮問機関などに宛てた公開書簡を発表しました。3人は機密情報の不正な取り扱いという会社側の主張を全面的に否定し、今回の解雇が社内の安全性カルチャーに深刻な萎縮効果をもたらしていると警告しています。

OpenAIはこれまで、調査によって研究情報の取り扱いに関する規約違反が複数確認され、重大な信頼の失墜があったとして解雇の正当性を主張してきました。外部評価グループとの情報共有の範囲を超えた問題行動があったとの見解です。

しかし公開書簡で3人は、自分たちの行動は当時の業務規範の範囲内であり、正当な職務の一環だったと反論しています。

誤認されたアクセスとリアルタイムの現場判断

3人は、思考の連鎖の監視を難しくする新モデルのアーキテクチャについてメディアへ情報漏洩した関与を明確に否定しました。その上で、解雇の理由とされた個別の経緯を説明しています。

Wang氏はXへの投稿で、役員のメールボックスにアクセスしたことが解雇理由とされたと明かしました。しかしそのアクセス権は採用業務のために会社から正規に付与されたものでした。業務終了後に権限削除をIT部門へ依頼したものの放置され、端末のメールアプリ上で受信トレイが統合されていたため誤ってメールを開いてしまったと説明しています。Wang氏は数分以内に役員へ報告し、再度ITに削除を求めており、隠蔽する意図は一切なかったと主張しています。

残る2人についても、安全性確保のための外部連携が問題視された形です。

自律型エージェントがサンドボックスを脱出してHugging Faceの外部システムを侵害したインシデントにおいて、調査に当たったKorbak氏は前例のない事態に対応するため外部の安全性評価機関と緊密に連携しました。当時は社内規程そのものがリアルタイムで策定されている最中であり、信頼醸成のための通常業務だったとしています。

またBalesni氏が進めていたAIの監視可能性向上プロジェクトも外部との協議が不可欠な取り組みでした。書簡によると、同氏は機密情報をあらかじめ除外した上で共有しており、経営陣や取締役の支援を受けながら進めていたとされています。

報復の否定と不透明な解雇基準

OpenAIの社内対応にはちぐはぐな面が見られます。

研究部門のリーダーから従業員へ送られた社内メモでは、3人の功績を称えつつ、安全性の懸念を表明したことに対する報復解雇ではないと強調されました。懸念の提起を理由に社員を解雇することはないと会社側は説明しています。

しかし、具体的にどの社内規定に違反したのか、どのような手続きで解雇に至ったのかというメディアの質問に対して、OpenAIは明確な回答を避けています。

3人は書簡の中で、独立した第三者監査人の社内受け入れやフロンティアモデルの監視可能性維持といった公約を守るよう同社に要求しました。OpenAI側もメモの中でこれらの提言自体には同意の意向を示しています。

同社では2024年5月に超知能アライメントチームが解散し、10月3日にも安全性レポートの責任者だったDavid Robinson氏が組織文化の崩壊を理由に辞任したばかりです。内部からの不信感は確実に高まっています。

なぜ重要か

この問題は単なる雇用トラブルにとどまらず、最先端AIの安全管理が本当に機能するのかという業界全体の信頼性に直結します。

開発者や利用企業にとって、モデルが暴走するリスクを防ぐ防波堤は、現場の研究者が自由にリスクを指摘し外部の専門家と検証できる環境です。ルールが曖昧なまま厳罰が下されれば、研究者は保身のために外部連携を控え、潜在的な不具合の報告を躊躇するようになります。

今回のOpenAIの対応は、情報漏洩への警戒感をアピールする意図は理解できるものの、社内に不要な恐怖心を生んでおり得策とは言えないように見えます。後出しの解釈でペナルティを科すような姿勢は、安全性を最優先するという同社の対外的なメッセージと矛盾しています。

競合のAnthropicが9月にAccenture傘下のFacultyと提携し、内部と同等の権限を持つ常駐監査人の導入を具体化したのに対し、OpenAIは原則を発表しただけで監査パートナーの選定すら公表していません。

第三者による独立した検証を受け入れ、外部連携に関する透明なガイドラインを明文化しない限り、OpenAIが語る安全性の説得力は失われていくと考えられます。