马斯克与多位学者联名呼吁：暂停训练比 GPT-4 更强的 AI 六个月

科技巨头们正忙着把大模型塞进各种软件里，另一群科技圈名人却突然冲到台前，想把电闸拉下来。

由非营利机构未来生命研究所发起的一封公开信，在科技圈掀起了轩然大波。信中呼吁全球所有 AI 实验室立刻按下暂停键，至少在 6 个月内停止训练比 GPT-4 更强大的 AI 系统。如果各家实验室不能迅速达成共识，信中甚至建议各国政府出面强制叫停。

停工 6 个月，究竟要干什么

这封信的核心观点很直接：各大实验室已经陷入了一场失控的军备竞赛。大家都在争相研发和部署连创造者自己都无法完全理解、预测或可靠控制的模型。

起草者认为，人类不应该在缺乏安全保障的前提下盲目狂奔。他们提议利用这半年的缓冲期，让实验室和独立专家共同制定一套共享的安全协议，严格审计高级 AI 的研发流程，确保技术在投入使用前达到毫无疑问的安全标准。

现实中的安全隐患确实在加剧。欧洲刑警组织就在这周早些时候发出警告，指出 ChatGPT 这类高级 AI 可能被滥用于钓鱼攻击、散布虚假信息和网络犯罪。与此同时，微软和谷歌等巨头为了抢夺先机，正把安全审查放在次要位置，全面转向「先上线再修补」的节奏。

上千人联名，名单里也有水军

截至公开信发出时，联名人数已经超过了 1000 人。名单里的阵容堪称豪华，既有图灵奖得主 Yoshua Bengio、AI 学者 Stuart Russell 和 Gary Marcus，也有苹果联合创始人 Steve Wozniak、Skype 联合创始人 Jaan Tallinn，以及写出《人类简史》的畅销书作家 Yuval Noah Harari。

商界代表同样不少，埃隆·马斯克和 Stability AI 首席执行官 Emad Mostaque 都签了名。有趣的是，信件还特别提到，就连 OpenAI 自己此前也承认过，未来更先进的系统可能需要引入独立审查。

不过，这份联名信的审核机制显然有点草率。由于开放公开签署，名单里一度混进了一些恶搞名字，比如直接把 OpenAI 首席执行官 Sam Altman 的名字填了上去，随后不得不进行核实清理。

为什么重要

对普通开发者和普通用户来说，这封信短期内大概率不会改变任何事。你明天依然可以用到 GPT-4，市面上的各类 AI 工具也不会下架。但如果监管部门真的听进去了信中的建议，未来获取下一代模型 API 的门槛和审查流程，可能会变得漫长而苛刻。

对行业而言，这封信更像是一记政治信号弹。它虽然缺乏实际的法律约束力，不太可能真的让正处于白热化竞争中的微软和谷歌停下算力集群，但它把行业内部对「先上线后治理」的反思直接送进了立法者的视线。欧美监管机构很可能会以此为契机，加速出台针对基础模型训练的前置审批规则。

我们认为，呼吁建立独立安全协议的想法很美好，但一刀切叫停 6 个月的提议在实操中几乎没有可行性。既然缺乏强制性的全球核查手段，遵纪守法的团队停下来，很可能只是把先发优势拱手让给不在乎公开信的竞争对手。这场联合发声看起来更像是一次高调的公关施压，逼迫大公司在疯狂扩张时不得不分出一部分精力，来正面回答安全问题。