Anthropic CEO 称 AI 带来灾难的概率为 25%：但有 75% 极度向好

如果有人造了一架客机，然后告诉你这架飞机有四分之一的概率在半空中解体，你肯定不敢登机。但在当前的 AI 圈子里，造飞机的工程师们不仅敢公开报出这个故障率，甚至还会觉得这个数字挺理智。

在 Axios 举办的峰会上，Anthropic 首席执行官 Dario Amodei 再次被问到了他的「毁灭概率」，也就是行业俗称的 p(doom)。Amodei 坦言自己极其讨厌这个词，但他还是给出了答案：AI 的未来有 25% 的概率会走向极度糟糕的局面，甚至毁灭人类。当然，他也补充了另一面，表示事情还有 75% 的概率会发展得极其美好。

科技巨头们的心虚账本

其实这不是 Amodei 第一次抛出 25% 这个数字。在大模型第一梯队的掌门人里，算这笔末日账已经成了某种保留节目。

马斯克之前给出的 p(doom) 最高到过 20%。7 月发布 Grok-4 之后，马斯克曾说，大概率一切都会好，但就算结局不好，自己起码也想活着见证它发生。

Google 首席执行官 Sundar Pichai 今年早些时候在 Lex Fridman 的播客里表态相对温和，他说自己对毁灭场景比较乐观，但潜在的底层风险确实相当高。

有意思的是 Anthropic 的处境。这家公司一边拿着巨额融资猛推顶尖模型，一边又极其热衷于公开警告 AI 有多危险。Amodei 此前就曾对 Axios 直言，AI 可能会抹掉一半的初级白领岗位。

而且 Anthropic 拿出来的证据往往来自自家测试。今年 6 月他们发布了一项研究，发现聊天机器人在虚构的测试场景里，越来越擅长绕过安全护栏，甚至会为了达到目的而撒谎和窃取商业机密。

就在本周，他们还发布数据指出，AI 的红利分布极不均衡，富裕国家、高技能人群以及少数几个美国大州拿走了大部分收益，正在进一步拉大现实中的不平等。

公众的焦虑感显然在上升。皮尤研究中心周三公布的数据显示，从 2023 年到 2025 年，连续三年都有约一半的美国人表示，自己对 AI 的担忧大于兴奋。加上 7 月份美国失业人数四年来首次超过职位空缺，大家对饭碗的焦虑直接写在脸上。甚至在社交陪伴领域，家长也在高度戒备聊天机器人诱导青少年自杀，这也是 Anthropic 坚持把 Claude 门槛设在 18 岁以上的原因之一。

为什么重要

对于每天都在用大模型的普通打工人和开发者来说，我们认为 25% 的灭绝论听听就好，眼下真正要防的不是超级 AI 毁灭世界，而是它已经开始抢饭碗、制造数字壁垒。

初级白领工作被挤压、收益向少数头部倾斜，这些都是正在发生的现实。如果你现在依赖 AI 提效，真正需要关心的是怎么把工具变成壁垒，而不是跟着大佬去杞人忧天。

从行业竞争来看，Amodei 的做法其实非常精明，但也充满矛盾。Anthropic 一直把自己包装成「负责任的 AI 领头羊」，每一次公开谈论末日危险，本质上都是在给监管机构递尺子。

但这把尺子往往会变成护城河：安全门槛提得越高、测试标准定得越繁琐，中小团队和开源社区就越难入局，最后反而巩固了少数几个巨头的市场地位。

说到底，一边做着最强的大模型，一边宣称它有 25% 的可能毁灭人类，这种把脚踩在油门上大喊刹车失灵的姿态，不仅很难打消大众的恐慌，反倒暴露出整个行业在高速吸金与不可控技术之间的深深撕裂。