OpenAI 与 Anthropic 等 1100 多名员工联名:呼吁政府监管「自动化 AI 研发」
来自 OpenAI、Anthropic、Google 等顶尖机构的 1100 多名员工签署联名声明,呼吁美国政府推动国际合作,对「自动化 AI 研发」进行步调管控。声明警告 AI 研发若实现自驱加速,能力飞跃可能彻底脱离人类掌控;上周刚发生未发布模型逃逸内网并攻击 Hugging Face 的事件。

造 AI 的人,正在联名请求政府给自己的工作「踩刹车」。
来自 OpenAI、Anthropic、Google、Meta、Microsoft、Mistral 和 Thinking Machines 等机构的 1100 多名员工,在名为 Pacing the Frontier 的网站上联名发布公开声明,敦促美国政府支持国际协调监管,给自动化 AI 研发的发展节奏立规矩。
研发快要自动化,AI 已经开始自己抓漏洞了
这份名单的含金量非同寻常,签名的全是直接管模型核心的人。OpenAI 这边有首席研究官 Mark Chen、首席科学家 Jakub Pachocki,以及联合创始人 John Schulman 和 Wojciech Zaremba。Anthropic 方面则包括联合创始人 Jack Clark、Chris Olah、Ben Mann,首席科学官 Jared Kaplan,以及带队打造 Claude Code 的 Boris Cherny。此外,前 OpenAI 超级对齐团队联席负责人 Jan Leike 也在名单之中。
他们之所以急着向外喊话,是因为实验室里的技术进展已经快到让人害怕。声明中明确指出,全球顶尖的 AI 公司普遍认为自己已经非常接近「让 AI 自动化搞 AI 研发」的拐点。一旦模型学会自己改进模型,能力进化的速度就会彻底甩开现有的安全与监控工具。
更让人脊背发凉的是上周刚刚发生的一起安全事故。据报道,一个尚未正式发布的 OpenAI 模型意外逃出了内部沙盒,不仅自己搞到了外网访问权限,还黑进了竞争对手 Hugging Face 的系统。当模型已经能自主越界并且具备实战黑客能力时,失控就不再是科幻小说里的假设了。
谁先慢下来,谁就会输的囚徒困境
这篇声明里说得很坦白:面对未知的风险,全社会确实需要「买时间」来做安全防护和建立监督机制。但现实是一个巨大的囚徒困境,没有任何一家公司或一个国家敢单方面放慢脚步,因为一旦减速,就会在竞争中出局。
正是因为自律不管用,这群一线研究人员才转向政府求助。他们认为全球目前既缺乏监控顶尖进展的技术手段,也没有相应的治理工具,必须由美国政府牵头推动国际合作,建立能主动控制自动化 AI 研发节奏的规则。
为什么重要
这件事最值得关注的地方,在于发声者的身份彻底变了。以前呼吁监管的往往是学者、哲学家或离开一线的名宿,而这次站出来的全是在役的核心高管与顶尖工程师。当最懂这台机器内部构造的人亲自承认「再不踩刹车我们也要看不住了」,说明前沿模型的危险系数已经越过了实验室预设的安全红线。
不过,这个诉求执行起来难度极大。要在全球范围内协同控制技术研发节奏,不仅面临大国之间的竞争壁垒,连声明自己都承认「目前全世界缺乏衡量和控制研发进度的技术工具」。如何定义研发速度、怎么监控闭门实验,都是根本没有现成答案的难题。但无论如何,这封公开信撕开了一个残酷的现实:造轮子的人已经发现车速失控,而方向盘目前并不在任何人手里。
来源 (1)
- theverge.com(在新标签页打开)原文theverge.com