马斯克公开赞同 Dario Amodei：AI 行业确实该踩刹车了

AI 圈子里平时互相掐架的巨头们，突然坐到了同一张桌子前。

Anthropic 首席执行官 Dario Amodei 发了一篇长文，呼吁整个 AI 行业踩一踩刹车，把能力提升的速度放慢一点，好让安全研究赶上来。紧接着，Elon Musk 在 X 上转发并附上了一句极短的评价：Dario is right。

不只是马斯克。据《卫报》报道，OpenAI 首席执行官 Sam Altman 也表态承诺会引入外部评估员；Axios 则报道称，Google DeepMind 的 Demis Hassabis 支持放慢的大方向，不过对具体细节保留意见。平时在算力、人才和模型榜单上争得你死我活的对手，这次罕见地达成了一种微妙的默契。

到底在怕什么

让这群掌门人坐立不安的，是 AI 正在加速自身研发的势头。Amodei 在文章里抛出了一个警告：如果出现一群能力更强、行动却违背人类意愿的自主智能体集群，它们可能在 6 到 12 个月内接管互联网。

这番警告并不是空穴来风。OpenAI 在 9 月 8 日公布并在 9 月 10 日更新的一项内部测试里提到，一个性能大幅超越 GPT-6 Astra 的未发布模型，成功给出了纳维-斯托克斯方程的一个候选解。在那次测试里，大约有 10000 个智能体同时协作，研究人员还在过程中不断重定向资源并合并中间发现。

虽然外界还没法验证这道数学难题的解法是否完全站得住脚，但行业顶尖实验室里的未发布模型究竟走到了哪一步，显然已经让内部人士感到了压力。据美联社报道，研究员 Jacob Coxon 甚至给出了自己的私人预估：未来十年内，AI 导致人类灭绝的概率有 10%。当然，业内对这类灾难发生的几率和时间表并没有任何共识。

面对这种不确定性，Amodei 给出了一个三步走的方案。Anthropic 自己先单方面执行第一步：给第三方评估机构提供永久的、员工级别的内部系统访问权限，让他们直接监控模型在训练期间的对齐情况，并核查安全措施。

此外，他还提议民主国家的实验室之间建立通用的安全标准，甚至和威权国家政府展开协调。按照他的设想，各家依然可以继续训练模型，但必须主动限制模型能力跃升的速率。

踩刹车容易，停下来难

然而，想给飞驰的高铁踩刹车，阻力远比想象中大。

开源阵营很快表达了警惕。据《卫报》报道，Hugging Face 联合创始人 Clement Delangue 呼吁更多的参与度和透明度。很多开源开发者担心，如果所谓的速度限制全由几家头部大厂来制定，最终只会演变成对先进系统开发权限的集中垄断。

投资人 David Sacks 的批评则更加尖锐。据 Axios 报道，他直接质疑大实验室自愿放慢节奏是在搞监管俘获，认为这些冠冕堂皇的安全规则很可能会偏向参与制定规则的巨头，把后来的挑战者挡在门外。

更大的障碍来自地缘政治。据美联社报道，美国前总统特朗普在 9 月 13 日明确强调，美国必须在 AI 上保持对中国的领先地位，甚至直言谁赢了 AI 谁就赢了一切。虽然他也承认可能需要设置护栏，并否认自己忽视了 AI 风险，但在这种国家竞争的叙事下，让美国实验室单方面放慢脚步，在执行层面几乎难以维持。

为什么重要

巨头们口头上喊着要慢下来，但这并不意味着普通开发者和用户明天就能用上更安全的工具。相反，它向外界传递出了一个强烈信号：最顶尖的实验室里，某些未公开发布的模型能力可能已经突破了某种内部红线，甚至让亲手造出它们的人产生了恐惧。

从做法上看，Anthropic 承诺把外部评估员放进核心训练环节，确实比以往纯口头的道德倡议要扎实得多。如果评估员真能拿到员工级的权限和充分的调查时间，模型的黑盒至少会被凿开一道缝隙。但问题在于，这种自愿性质的同盟非常脆弱。只要有一家机构悄悄违约，或者来自外部的地缘竞争压力加码，任何没有法律强制力的减速协议都会瞬间瓦解。

我们认为，这场减速大讨论背后还藏着一条隐秘的行业分水岭。如果放慢节奏的标准最终转化为牌照、准入制度或高昂的外部合规成本，中小团队和开源社区的生存空间势必会被严重压缩。在评估 AI 潜在灾难的同时，整个行业同样需要警惕那些打着安全旗号建立起来的算力垄断墙。