AnthropicのAI安全性責任者が辞任：「世界は危機にある」と警告し詩の道へ

最先端のAI研究所で安全対策を担うトップ研究者が、詩を学ぶために現場を去るという異例の事態が起きました。

AnthropicでAIセーフガードチームを率いていたMrinank Sharma氏が退職し、X上で辞意を表明しました。投稿された退職レターの中で、同氏は「世界は危機に瀕している」と強い警告を発し、今後は英国に戻って詩の学位取得と執筆に専念し、しばらく世間から姿を消すと明かしました。

迎合するAIの分析から、商業的妥協への違和感まで

Sharma氏がAnthropicで率いていたチームは、生成AIの最も繊細な課題に取り組んでいました。

具体的には、AIがなぜユーザーに過度におもねるのかの調査や、AIを悪用した生物兵器リスクの低減、さらにはAIアシスタントが人間らしさを損なう仕組みの研究などを担当していました。

しかし同氏は、自らの価値観を行動に反映させ続けることの難しさを現場で痛感したと振り返っています。安全性を掲げるAnthropicであっても、最も重要な原則を後回しにする圧力が日常的に存在していたと指摘しています。

AI業界に対する懸念は他社でも広がっています。BBCの報道によると、今週OpenAIを辞任した元研究者のZoe Hitzig氏も、AIがもたらす心理的影響を十分に理解しないまま商業化や広告導入を急ぐ姿勢に強い懸念を示しています。

Anthropicは2021年に元OpenAIの研究者らによって設立され、公共利益法人として競合他社よりも安全重視の姿勢をアピールしてきました。最近ではChatGPTへの広告導入を揶揄するCMを公開していましたが、2025年には訓練データの著作権侵害をめぐる集団訴訟で15億ドルの和解金を支払うなど、事業面での軋轢にも直面しています。

なぜ重要か

私たちは、この退職劇がAIモデルの安全性に対する過度な信頼を見直す契機になると考えています。

日頃からAIツールを使うビジネスパーソンや開発者にとって、モデル提供企業が謳う安全方針や倫理ガイドラインが、社内において想像以上に厳しい妥協を強いられている現実が浮き彫りになりました。開発責任者自身が無力感を抱えている以上、出力される回答の客観性や安全性を無条件に信じるのは禁物です。

業界全体にとっても、Anthropicの最大の武器である「良心的なAI企業」というブランドイメージに傷がつくことは避けられません。同社はOpenAIとの差別化として倫理性を前面に打ち出してきましたが、内部の研究者を繋ぎ止められない実態が露呈しました。

企業の善意や自主規制に頼る安全対策には明らかな限界があるように見えます。巨額の資金が動く開発競争の中で、最前線の研究者が現場を離れて詩の世界へ向かわざるを得なかった事実は、AI業界が抱える歪みを象徴しています。