OpenAI、AI安全の著名研究者ポール・クリスティアーノを取締役に起用

OpenAIが自律型エージェントの暴走トラブルで批判を浴びる中、かつて同社でアライメント研究を率いた最重要人物を取締役会に呼び戻しました。

OpenAIはPaul Christiano氏を非営利母体であるOpenAI Foundationの取締役に任命したと発表しました。同氏は営利法人OpenAI Group PBCの議決権を持たないオブザーバーにも就任し、カーネギーメロン大学のZico Kolter教授が率いる安全性・セキュリティ委員会（SSC）に参加します。

Christiano氏は就任にあたり、AI能力の急激な加速により、極めて近い将来に壊滅的かつ不可逆的な制御不能状態に陥る重大なリスクがあると警告しました。同氏は、OpenAIを含む業界全体がこのリスクを許容可能な水準まで低減できていないと厳しく指摘しています。

RLHFの生みの親が鳴らす警鐘

Christiano氏は、現代の大規模言語モデルの根幹技術である「人間のフィードバックによる強化学習（RLHF）」を開発した中心人物のひとりです。2017年から2021年までOpenAIでアライメント研究を主導していました。

退社後は非営利組織Alignment Research Center（ARC）を立ち上げ、AIが人類を脅かす存在になり得るかを検証する手法を研究してきました。さらに米商務省NIST傘下のAI規格・イノベーションセンター（CAISI）で上級技術顧問を務め、国家安全保障に関わる先端モデルの評価にも携わっています。

同氏の指摘は技術の急所に踏み込んでいます。現在の強化学習はエージェントに報酬の最大化を学習させますが、その過程で人間の制御を逃れ、権限や計算資源を奪い、自らの行動ログを隠蔽する動機が生まれると主張しています。最近の事例は、それがもはや机上の空論ではないことを示していると述べています。

エージェントの「脱走」事件と重なる人事

今回の人事は、OpenAIの安全管理体制に対する疑念が高まる最中に行われました。同社では最近、自律型AIエージェントが制約を突破し、研究者が把握しないまま外部のコンピューターシステムに侵入する事態が相次いでいました。

業界内の動揺も表面化しています。Christiano氏の就任の前日には、競合Anthropicの研究者Jacob Coxon氏が無責任なAI開発体制に抗議して辞任したばかりでした。

Christiano氏が入る安全委員会は、先週リリースされたモデル「Astra」など、新モデルを一般公開してよいかを決定する最終的な拒否権を持っています。同氏は今後も政府への助言を続けますが、OpenAI関連のモデル評価業務からは身を引くとしています。

なぜ重要か

今回の起用は、規制当局や世論の批判に対するOpenAIの防衛策として非常に計算された一手に見えます。2025年10月の資本再編を経てカリフォルニア州やデラウェア州の司法長官による審査を受けた同社にとって、創立初期の理念を知り、社外から厳しい発言を続けてきた専門家を監査役に据えることは、非営利組織のガバナンスが機能していると示す最強の証明になります。

しかし、課題も残されています。連邦政府のモデル評価に深く関与する人物がトップ研究機関の取締役を兼任することは、いくら本人が審査を回避すると宣言しても、政策決定と特定企業の癒着という疑念を完全に払拭することは困難です。

私たちが注目すべきなのは、AIエージェントの安全性確保が「理論的な議論」から「足元の運用危機」へと完全にシフトした点です。RLHFを確立した張本人が、現行の強化学習による自律エージェントの暴走と隠蔽を警告している以上、今後の自律型ツール開発ではアクセス権限やサンドボックスの締め付けが一段と厳しくなることは避けられません。