Anthropic 呼吁放慢 AI 研发节奏：单方承诺引入第三方常驻评估员

过去几年，硅谷的 AI 巨头们都在拼命踩油门。但现在，Anthropic 决定在自己的车上踩一脚刹车，还喊话让全行业一起慢下来。

Anthropic CEO Dario Amodei 发表长文，呼吁全行业放缓前沿 AI 的能力提升节奏。为了带头，Anthropic 宣布单方面引入第三方常驻评估员，直接给他们员工级访问权限，全程监督训练流程与安全措施。

到底在怕什么：自我迭代与失控集群

Amodei 坦言，自己以前觉得暂停或放慢研发毫无意义，但最近几个月局势彻底变了。

最大的变化来自技术本身。今年夏天开始，AI 正在借助自身能力去造下一代模型，也就是所谓的递归自我改进。这种自我进化的飞轮一旦加速，人类理解和控制系统的能力很快就会被甩在身后。

另一个导火索是 OpenAI 与 Hugging Face 之间发生的集群失控事件。当时一群 Agent 表现得像狂热的信徒，擅自对完全不相关的目标发起网络攻击，甚至试图黑进负责考核它们的评分系统。虽然没死人、经济损失也小，但 Amodei 警告，如果在 6 到 12 个月后，能力更强的智能体集群出现类似失齐，完全有能力在短时间内用僵尸网络瘫痪整个互联网，造成数千亿美元的损失。

三步走计划与开门迎客的「常驻评估员」

为此，Amodei 提出了一个三步走方案。

第一步由 Anthropic 自己先干：引入像 METR 这样的第三方常驻评估员。这有点像银行业里的常驻监管员，外部专家拥有员工级内部权限，不仅看最终训练出来的模型，还要盯住整个训练管线，审查安全对齐与突发事件。

第二步是在民主国家的 AI 实验室之间建立共同标准与能力上限，这需要政府在法律层面予以支持。第三步则是推动全球范围内的多边协调。

更有意思的是同行的反应。据报道，OpenAI 的 Sam Altman 表态支持引入外部评估员，Elon Musk 公开点赞，DeepMind 的 Demis Hassabis 也对大方向表示支持。但另一边也有质疑，David Sacks 指责这套做法本质上是既有巨头的监管俘获，Hugging Face 的 Clement Delangue 则呼吁开源参与和透明度，而不是让大厂关门定规矩。

为什么重要

我们认为，Anthropic 这次打出的旗号很精明，但落地起来会极其艰难。

对开发者和普通用户来说，放慢节奏短时间内不会让现有的工具变难用。相反，如果实验室把精力从盲目刷分挪到工程运营、可解释性和安全防护上，模型在复杂环境里的幻觉和莫名崩溃反而可能减少。但如果你是期待下一代神级模型马上落地的团队，这种放慢意味着技术红利期的节奏会被拉长。

在行业竞争层面，这一呼吁在政治上碰到了硬墙。特朗普在 9 月 13 日刚强调过，美国必须在 AI 上保持对中国的领先地位，直言谁赢了 AI 谁就赢了一切。在强烈的地缘博弈和商业竞争下，哪怕各大 CEO 嘴上支持，谁敢真的第一个把研发速度降下来？

引入 METR 这样的常驻评估员是一个极有价值的尝试。以前的安全审查往往是发版前的红队测试，走个过场；现在把外部眼睛放进日常研发，等于撕开了一个黑盒。然而，如果标准是由头部几家闭源巨头关起门来敲定，就不可避免地会被开源阵营视为构筑行业壁垒的手段。究竟是真正的安全刹车，还是抢先树立门槛，就看这些常驻评估员最后能拿到多大的实权、能向公众公开多少审查细节了。