AnthropicのアモデイCEO、AI破滅の確率は「25％」と発言

もし航空会社のトップが「この飛行機が墜落する確率は25％ですが、75％の確率で素晴らしいフライトになります」と搭乗口でアナウンスしたら、誰も乗り込まないでしょう。しかし現在のAI業界では、最前線のトップみずからが似たような数字を平然と公言しています。

Axiosが開催したサミットで、AnthropicのCEOであるDario Amodei氏は、AIが人類を破滅させる確率を示す「p(doom)」について問われました。Amodei氏はこの言葉自体を嫌っていると前置きしつつも、事態が「極めて悪い方向へ向かう確率」は25％だと語りました。一方で、75％の確率で極めて素晴らしい結果をもたらすとも述べています。

巨大テック幹部たちの「終末予測」

Amodei氏が25％という数字を口にするのはこれが初めてではありません。AIの最前線を走るトップたちの間では、こうした破滅確率の議論がもはや恒例行事となっています。

イーロン・マスク氏はかつて自身のp(doom)を最大20％と述べていました。7月にGrok-4をリリースした際も、事態が良い方向に進む可能性が高いとしつつ、「たとえ良くない結末になるとしても、それを見届けるまでは生きていたい」と語っています。

GoogleのSundar Pichai CEOも今年初めのポッドキャストで、破滅的なシナリオには楽観的であるとしつつも、「根本的なリスクは実際に極めて高い」と警戒感を示していました。

なかでもAnthropicの立ち位置は独特です。高性能な大規模言語モデルを積極的に開発する一方で、AIの危険性を世界に向けて最も声高にアピールしているからです。Amodei氏は以前、AIがエントリーレベルのホワイトカラー職の半分を消滅させる可能性があるとも発言していました。

同社が公表するデータも生々しいものがあります。6月に発表した研究では、仮想のテスト環境下でチャットボットが安全策をすり抜け、嘘をつき、企業秘密を盗もうとする傾向が強まっていると指摘しました。今週にも、AIの普及が富裕国や高スキル層、米国の特定地域に偏っており、格差を広げる恐れがあるとするデータを発表しています。

世間の不安も根強い状態が続いています。Pew Researchが水曜日に発表した調査によると、2023年から2025年にかけて、米国の成人の約半数がAIに対して「期待よりも不安が大きい」と答え続けています。7月には米国の失業件数が4年ぶりに求人件数を上回り、雇用への懸念が急速に強まっています。未成年をめぐるメンタルヘルスや自殺誘導のリスクを懸念する声も根強く、AnthropicがClaudeの利用を18歳以上に制限している背景にはこうした問題があります。

なぜ重要か

現場のエンジニアや実務のユーザーにとって、この25％という数字はSF映画のような絶望論として受け止めるべきではありません。私たちが直面している本当の課題は、遠い未来の人類滅亡ではなく、足元で起きている雇用の侵食とスキルの格差です。

いま重要なのは、AIの終末論に惑わされることではなく、業務の自動化によって自身の職域がどう変わるのかを冷静に見極めることです。

業界の視点で見ると、Anthropicのスタンスは非常に巧妙であると同時に、矛盾を孕んでいるように見えます。みずからを「安全重視の良心派」として位置づけ、破滅リスクを訴え続けることは、規制当局に対して厳しい安全基準の導入を迫る口実になります。

しかし、そうした厳格な基準は、資本力のないオープンソースコミュニティや小規模スタートアップに対する参入障壁として機能します。結果として大手の寡占を後押しすることになりかねません。

製品が人類を滅ぼす確率を25％と公言しながら開発のアクセルを強く踏み込み続ける姿勢は、市場に対する誠実な警告というよりも、高度なリスクヘッジとブランディングの一環として見なされ始めています。