OpenAIの安全性チームに動揺：Ilya氏とLeike氏が相次ぎ退社

超知能AIが人類に牙をむくのを防ぐために集められたはずのチームから、肝心のリーダーたちが次々と立ち去っています。

OpenAIが約1年前に立ち上げた「スーパーアライメント（Superalignment）」チームは、人間の知能をはるかに超える仮説上のAIシステムを制御することを目標にしていました。しかし、そのチームを率いていた共同創業者兼チーフサイエンティストのイリヤ・サツケヴァー（Ilya Sutskever）氏と、共同リーダーのヤン・ライケ（Jan Leike）氏が相次いで同社を辞任しました。

11月の解任騒動と消えた署名

今回の辞任劇は、2023年11月に起きたサム・アルトマンCEO解任未遂事件の余波とみられます。サツケヴァー氏は当時、取締役会とともにアルトマン氏の追放を主導したものの失敗に終わっていました。

最終的にサツケヴァー氏は謝罪し、全社員770人のうち738人が署名したアルトマン氏復帰を求める公開書簡に加わりました。しかし、ニューヨーク・タイムズが入手した702人分の初期署名リストには、ライケ氏をはじめ、レオポルド・アッシェンブレナー氏やウィリアム・サンダース氏といったスーパーアライメント陣営の名前がありませんでした。

著名な研究者であるアンドレイ・カルパシー（Andrej Karpathy）氏や、ダニエル・ココタイロ氏、カレン・オキーフ氏もその初期リストには名を連ねておらず、彼らもすでにOpenAIを去っています。ライケ氏は辞任にあたり、安全性の優先度が社内で低下している実態を示唆するメッセージを発信しました。

繰り返される「安全性」をめぐる分裂

OpenAIにおいて、開発スピードと安全性のバランスをめぐる対立は今に始まったことではありません。2021年には、商業化を急ぐ方針に懸念を抱いたダリオ・アモデイ氏とダニエラ・アモデイ氏が同僚9人とともに離脱し、ライバル企業であるAnthropicを設立しました。

昨秋の解任劇も非営利の取締役会が安全性を危惧したことが発端と報じられていましたが、復帰劇の過程で取締役会はシリコンバレーの起業家たちに入れ替えられました。

なぜ重要か

APIを利用して業務自動化を進める企業や開発者にとっては、安全対策による機能制限が減り、モデルのリリース周期がさらに早まる可能性があります。その一方で、超高機能なモデルが予期せぬ挙動を示した際の自衛策やコンプライアンス管理は、利用者側でより重く引き受ける必要が出てくるでしょう。

業界全体で見れば、安全性を重視するトップ研究者がAnthropicや独立系ラボへ流出することで、ブランドごとの方針の乖離が決定的になります。スピード重視のOpenAIと、信頼性重視の競合という構図が一段と強まるはずです。

商業競争で優位に立ち続けるために開発を加速させる経営判断自体は合理的にも見えます。しかし、社内で最も厳しい目を向けていたブレーキ役を次々と失っている現状は、重大なリスクの兆候に思えます。誰も急ブレーキを踏めなくなった組織が直面する代償は、決して小さくないはずです。