OpenAIの安全研究者Rosie氏が退社、AGI準備チーム解散受け

OpenAIからまた一人、AIの安全性とガバナンスを担ってきたベテラン研究者が去ることになりました。

同社で約3年半にわたり政策研究や安全性評価に取り組んできたロージー・キャンベル（Rosie Campbell）氏が、退社を発表しました。先に退任したマイルズ・ブランデージ（Miles Brundage）氏に続き、同氏が率いていた「AGI Readiness（AGI即応）」チームが解散されたことを受けた動きです。

キャンベル氏は2021年半ばにOpenAIに入社し、当初はAPI向けの安全ポリシーやプロセスの立ち上げを担当しました。その後、政策研究チームへ移り、危険な能力の評価、デジタルな意識（sentience）、自律型エージェントシステムのガバナンスといったフロンティア課題を研究してきました。

社内に残された4つの助言

キャンベル氏は自身のブログやXで社内Slackへの最後のメッセージを公開し、チーム解散によってこの種の研究を社内で続ける場所が見出せなくなったと明かしました。この1年ほどのOpenAIの変化や、初期の文化を築いてきた多くの同僚の離脱に対しても不安を感じていたと振り返っています。

彼女は残る社員に向けて4つの忠告を残しました。第一に、ミッションは単に「AGIを作ること」ではなく人類に利益をもたらすことである点。第二に、現在の安全性へのアプローチでは、今後数年で登場するはるかに強力なシステムには不十分かもしれないと真剣に受け止めること。第三に、不都合であっても真実を口にすること。そして第四に、自分たちが作っているものは単なるテック製品ではないという厳粛さを持つことです。

今後は少し休息を取り、AIリスクの啓発や評価手法の限界、エージェントとの協調といった未解決の課題について、外部から模索を続けるとしています。

なぜ重要か

今回の退任は、OpenAI内部で長期的な安全性やガバナンスを重視する研究が、商用化の優先によって後回しにされている実態を改めて浮き彫りにしています。

業界全体から見れば、フロンティアモデルの内部構造とリスクを熟知した専門家が、社外のシンクタンクや規制当局、学術界へ流出する流れが一段と加速しています。企業の内側からブレーキをかけるのが難しくなった以上、独立した外部からの監視やガバナンス体制をどう構築するかが、今後のAI規制における主戦場になりそうです。

私たちは、キャンベル氏が指摘した「単なるテック製品ではない」という警告こそが、いま最も重視されるべき点だと考えます。より自律的で強力なシステムが目前に迫るなか、リスク検証を担う中核チームを解散させて製品投入を急ぐ姿勢は、長期的な安全性の観点から見て大きな危うさをはらんでいます。