Anthropic 呼吁全球暂停前沿 AI 研发：警告两年内或失控

跑得最快的人突然拉住裁判，说比赛太危险，大家先歇歇。

Anthropic 在官方博客发文，呼吁全球各大 AI 实验室协调行动，暂时叫停或至少放缓前沿模型的研发步伐。提议来自它的内部研究负责人 Marina Favaro 和政策负责人 Jack Clark，理由听起来颇为惊悚：AI 系统正在逼近所谓的「递归自我改进」。

两年内自己写代码进化？

所谓递归自我改进，说白了就是 AI 不用人管，自己写代码来强化自己的能力，一轮接一轮地往上翻。

两位作者承认这事目前还没真正发生，现实中也并非百分之百会发生。但 Jack Clark 警告说，有些模型很可能在短短两年内就能具备这种自我迭代的能力，到时现有的社会机制根本来不及反应。

Anthropic 觉得大家需要类似冷战时期的核军控协议，让全世界喘口气。但他们自己也承认，监控 AI 比监控核武器难得多。导弹发射井很难藏，但分布式算力、私有数据中心和算法迭代，在电脑屏幕后就能悄悄推进。如果没办法落实铁腕核查，甚至得不到中国等国家的配合，老老实实踩刹车的人只会把领先优势拱手让人。

是真怕失控，还是上市前的精明营销？

这番警告刚发出来，外面的质疑声就炸开了锅。原因很简单，Anthropic 最近刚敲定一轮 650 亿美元的融资，估值直奔 1 万亿美元，本周刚向美国证券交易委员会递交了上市申请，正跟 OpenAI 争夺公开市场的霸主地位。

Enderle Group 分析师 Rob Enderle 就直接挑明，这与其说是行业自律，不如说是一场精心计算的战略营销。一方面，大国之间的经济与安全利益太大，全球暂停根本行不通；另一方面，Anthropic 借着宣传自我改进的风险，正好向华尔街展示自己的技术已经领先到需要巨资来维持安全管控的程度。

知名投资人 David Sacks 此前也批评 Anthropic 是在搞监管俘获，用末日恐慌来推动重税和严苛法规，以此干掉低成本的开源模型，保全自己的专有闭源技术。Constellation Research 分析师 Holger Mueller 则指出，递归进化的风险目前还停留在纯理论阶段，而且行业现在的算力缺口这么大，AI 哪有那么多算力去自己无限繁殖。把现状冻结住，其实最有利于 Anthropic 稳固自己在企业级市场的领先地位。

面对质疑，Anthropic 旗下负责评估社会影响的机构 Anthropic Institute 表示，仍会继续推动这场辩论，并尝试设计可行的放缓与验证机制。

为什么重要

对普通用户和开发者来说，这次表态倒不会立刻改变手头工具的使用。你现在用 Claude 写代码、做分析，一切如常。但如果这种呼吁真变成了政策落地，代价很可能会转嫁到整个生态头上，首当其冲的就是个人开发者最依赖的开源社区。

我们认为，Anthropic 这一步棋走得极其精明，但也埋下了不小的公关隐患。精明之处在于，它抢在 IPO 前夜把「最强模型」和「最负责任的安全守护者」两张标签同时焊死在自己身上。既秀了肌肉，又占领了道德制高点，在资本市场非常受用。

但隐患也很刺眼。当一家商业公司手握万亿美元估值并准备上市时，它口中的「为了人类暂停」，看起来越来越像「你们先别动，等我把商业护城河挖好」。特别是在地缘博弈和算力军备竞赛白热化的当下，单方面呼吁踩刹车既不现实，也很容易让外界怀疑其真正的商业动机。