OpenAIの安全性責任者が退任、ChatGPT公開後の業務急増でCTOが兼務へ

巨大プラットフォームの安全対策を指揮するだけでも過酷な仕事だが、急激に世界へ普及した生成AIの安全を守るプレッシャーは想像を絶するものだったようだ。

OpenAIのトラスト＆セーフティ部門責任者を務めていたDave Willner氏が退任を発表した。同氏はLinkedInの投稿で、職を辞して年内はアドバイザー役に退くことを明かし、若い家族と過ごす時間を優先するためだと説明した。ChatGPTの公開以降、業務は急激に高負荷なフェーズへと突入し、家庭との両立が極めて難しくなっていたという。

OpenAIは声明を発表し、CTOのMira Murati氏が後任決定まで暫定的に同チームを直接統括することを明らかにした。Willner氏のこれまでの貢献に感謝しつつ、後任の選定を急いでいる。

Facebook初期のルール策定者から、AIの防波堤へ

Willner氏はトラスト＆セーフティ分野の古参であり、OpenAI以前にはFacebookやAirbnbで同部門を率いてきた経歴を持つ。

とりわけFacebook初期には、現在のモデレーションの基盤となっている最初のコミュニティ規定の策定に関わった。2009年に起きたホロコースト否定論を巡る論争では、ヘイトスピーチは直接的な危害とは異なると主張し、過度な規制に慎重な姿勢をとっていた人物でもある。その後考え方を変化させ、2019年には政治家に対するモデレーション免除の動きを批判していた。

OpenAIが1年半前に同氏を招いた本来の狙いは、画像生成AIのDALL-Eが悪用され、児童ポルノなどの違法コンテンツ生成に使われるのを防ぐことだった。しかしその直後、ChatGPTの爆発的ヒットによって守るべき対象の規模も注目度も一気に跳ね上がった。

ホワイトハウスでの誓約と同じ日に重なった退任

この退任劇は、AI業界の規制をめぐる極めて重要な節目と重なった。

まさに発表当日の7月21日、OpenAI社長のGreg Brockman氏は、Anthropic、Google、Inflection、Microsoft、Meta、Amazonの幹部らとともにホワイトハウスへ赴き、バイデン政権が準備する大統領令に先立って安全性と透明性に関する自主的な誓約に署名する予定となっていた。欧州での規制強化の動きと相まって、各社が安全性をアピールする最前線の場だった。

表舞台で大統領に安全を約束する一方で、現場でその安全を支えてきた責任者が過重労働で現場を去るという皮肉な構図が生じている。

OpenAIは声明のなかで、後任には技術的な知見を持つリーダーを求めており、テクノロジーの安全な利用とスケーラブルな成長を両立させるシステムの設計と実装に注力すると述べている。

なぜ重要か

Dave Willner氏の退任は、SNS時代に培われたトラスト＆セーフティの運用手法が、生成AIの時代にはもはや限界を迎えていることを浮き彫りにしていると私たちは考える。

従来のソーシャルメディアでは、人間が投稿したコンテンツを事後的に審査し、ポリシーに基づいて削除すれば対処できた。しかし生成AIは、プロンプト一つで瞬時にテキストや画像を自動生成するため、従来のポリシー主導や人手による監視では追いつかない。安全策そのものをモデルの学習段階やシステム設計に直接組み込む必要がある。

OpenAIが後任に技術的スキルの高い人材を求めていると明言したことは、従来の法務やポリシー中心の安全対策から、システム実装による防御への転換を迫られている証左と言える。スタンフォード・インターネット観測所の専門家が警告するように、生成AIによる悪用リスクは今後急速に深刻化する可能性が高い。ホワイトハウスへの誓約を果たしつつ、この防衛体制を崩さずに再構築できるかが同社の大きな試練となる。