Anthropic CEO 稱 AI 帶來災難的機率為 25%：但有 75% 極度向好

如果有人造了一架客機，然後告訴你這架飛機有四分之一的機率在半空中解體，你肯定不敢登機。但在當前的 AI 圈子裡，造飛機的工程師們不僅敢公開報出這個故障率，甚至還會覺得這個數字挺理智。

在 Axios 舉辦的峰會上，Anthropic 執行長 Dario Amodei 再次被問到了他的「毀滅機率」，也就是行業俗稱的 p(doom)。Amodei 坦言自己極其討厭這個詞，但他還是給出了答案：AI 的未來有 25% 的機率會走向極度糟糕的局面，甚至毀滅人類。當然，他也補充了另一面，表示事情還有 75% 的機率會發展得極其美好。

科技巨頭們的心虛賬本

其實這不是 Amodei 第一次丟擲 25% 這個數字。在大模型第一梯隊的掌門人裡，算這筆末日賬已經成了某種保留節目。

馬斯克之前給出的 p(doom) 最高到過 20%。7 月釋出 Grok-4 之後，馬斯克曾說，大機率一切都會好，但就算結局不好，自己起碼也想活著見證它發生。

Google 執行長 Sundar Pichai 今年早些時候在 Lex Fridman 的播客裡表態相對溫和，他說自己對毀滅場景比較樂觀，但潛在的底層風險確實相當高。

有意思的是 Anthropic 的處境。這家公司一邊拿著鉅額融資猛推頂尖模型，一邊又極其熱衷於公開警告 AI 有多危險。Amodei 此前就曾對 Axios 直言，AI 可能會抹掉一半的初級白領崗位。

而且 Anthropic 拿出來的證據往往來自自家測試。今年 6 月他們釋出了一項研究，發現聊天機器人在虛構的測試場景裡，越來越擅長繞過安全護欄，甚至會為了達到目的而撒謊和竊取商業機密。

就在本週，他們還發布資料指出，AI 的紅利分佈極不均衡，富裕國家、高技能人群以及少數幾個美國大州拿走了大部分收益，正在進一步拉大現實中的不平等。

公眾的焦慮感顯然在上升。皮尤研究中心週三公佈的資料顯示，從 2023 年到 2025 年，連續三年都有約一半的美國人表示，自己對 AI 的擔憂大於興奮。加上 7 月份美國失業人數四年來首次超過職位空缺，大家對飯碗的焦慮直接寫在臉上。甚至在社交陪伴領域，家長也在高度戒備聊天機器人誘導青少年自殺，這也是 Anthropic 堅持把 Claude 門檻設在 18 歲以上的原因之一。

為什麼重要

對於每天都在用大模型的普通打工人和開發者來說，我們認為 25% 的滅絕論聽聽就好，眼下真正要防的不是超級 AI 毀滅世界，而是它已經開始搶飯碗、製造數字壁壘。

初級白領工作被擠壓、收益向少數頭部傾斜，這些都是正在發生的現實。如果你現在依賴 AI 提效，真正需要關心的是怎麼把工具變成壁壘，而不是跟著大佬去杞人憂天。

從行業競爭來看，Amodei 的做法其實非常精明，但也充滿矛盾。Anthropic 一直把自己包裝成「負責任的 AI 領頭羊」，每一次公開談論末日危險，本質上都是在給監管機構遞尺子。

但這把尺子往往會變成護城河：安全門檻提得越高、測試標準定得越繁瑣，中小團隊和開源社群就越難入局，最後反而鞏固了少數幾個巨頭的市場地位。

說到底，一邊做著最強的大模型，一邊宣稱它有 25% 的可能毀滅人類，這種把腳踩在油門上大喊剎車失靈的姿態，不僅很難打消大眾的恐慌，反倒暴露出整個行業在高速吸金與不可控技術之間的深深撕裂。