Anthropic、元OpenAIの安全研究責任者ヤン・ライケ氏を採用

OpenAIを退職し、同社の安全軽視を公に批判したばかりのトップ研究者が、最大のライバル企業へと移籍しました。

OpenAIでアライメント研究を率いていたJan Leike氏が、Anthropicに参画し、新たな「スーパーアライメント」チームを率いることを発表しました。

解散されたチームの研究テーマをそのまま再始動

Leike氏はXへの投稿で、Anthropicの新チームがAIの安全性とセキュリティに注力すると明かしました。具体的な研究テーマとして、スケーラブルな監視、弱いモデルから強いモデルへの汎化、そして自動化されたアライメント研究を挙げています。

事情に詳しい関係筋がTechCrunchに語ったところによると、Leike氏はAnthropicのチーフサイエンスオフィサーであるJared Kaplan氏に直属します。現在同社でスケーラブルな監視技術を手がけている研究者たちも、新体制の立ち上げに伴いLeike氏の配下に移る予定です。

この研究内容は、OpenAIが先ごろ解散させたスーパーアライメントチームの任務と重なります。Leike氏が共同で率いていたそのチームは、今後4年以内に超知能AIの制御課題を解決することを掲げていましたが、経営陣との衝突に悩まされていました。

OpenAIを離れた安全重視派の受け皿に

Anthropicは以前から、OpenAIよりも安全性を重視する姿勢を明確にしてきました。

そもそも同社CEOのDario Amodei氏自身が、元OpenAIの研究担当副社長です。商業化を急ぐOpenAIの方針に異を唱え、元ポリシー責任者のJack Clark氏らを引き連れて立ち上げた経緯があります。

今回のLeike氏の合流は、創業当時の流れが再び繰り返された形といえます。

なぜ重要か

この動きは、最先端AIの安全性研究における重心がどこへ移りつつあるかを明確に示しています。

安全性を研究したいトップレベルの技術者にとって、OpenAIがスーパーアライメントチームを解体した出来事は大きな失望でした。Anthropicがその受け皿として機能し、Leike氏をチーフサイエンスオフィサー直属という高いポジションで迎えた判断は非常に巧みです。

業界全体にとっても、OpenAIとAnthropicの対比がいっそう鮮明になりました。一方が製品化と商業スピードを突き進む中、もう一方は「安全ファースト」の旗印でトップタレントを惹きつけています。

ただし懸念もあります。超知能の制御研究には膨大な計算資源が必要ですが、AnthropicもAmazonなどの支援を受け、商業的プレッシャーと無縁ではありません。OpenAIと同じ轍を踏まず、Leike氏の研究に十分なリソースを注ぎ続けられるかが今後の試金石となります。