首尔 AI 峰会达成新协议：16 家头部企业签署安全承诺

半年前在英国布莱切利园，大家还在争论 AI 到底会不会毁灭人类。半年后到了首尔，各大科技巨头终于坐下来签了一份白纸黑字：如果风险兜不住，新模型就别发了。

由英国和韩国联合主办的人工智能峰会在首尔开幕。这次峰会最引人注目的成果，是 16 家全球顶级 AI 公司共同签署了一份前沿 AI 安全承诺。

风险兜不住，宁可不发

这 16 家公司几乎覆盖了全球最核心的生成式 AI 玩家。名单里不仅有 OpenAI、Google、Meta、微软、Anthropic、xAI 和亚马逊，还包括阿联酋的 Technology Innovation Institute，以及来自中国的智谱 AI。

根据英国政府的声明，这些公司达成了一项前所未有的共识：如果缓解措施无法将风险控制在特定阈值以下，就完全不开发或不部署相应的模型与系统。

英国首相苏纳克评价说，来自全球这么多不同地区的顶尖 AI 企业就同一份安全承诺达成一致，这在世界上还是头一次。核心目的就是让这些公司在开发前沿 AI 时，拿出透明度和问责制。

除了商业巨头表态，政府层面也拉起了安全网。包括美国、英国、日本、韩国、新加坡、澳大利亚、加拿大、德国、法国、意大利以及欧盟在内的 10 国加欧盟，签署了一项新协议。

他们打算组建一个类似英国 AI 安全研究所的国际研究网络。上个月美英两国刚刚达成了安全测试合作的备忘录，这次则是把机制直接扩成了 11 方多边联动，在测试标准和安全研究上对齐脚步。

在首日由苏纳克和韩国总统尹锡悦主持的线上领导人会议上，各方还签署了范围更广的《首尔宣言》，强调在以人为本、值得信赖和负责任的前提下，靠 AI 解决全球问题和弥合数字鸿沟。

为什么重要

我们认为，这份承诺最大的亮点不在于技术指标，而在于它终于给狂奔的 AI 竞赛立了一条红线：如果越界，就得按下暂停键。

对普通开发者和终端用户来说，这并不意味着 AI 进化会变慢。恰恰相反，当顶级大厂必须公开安全阈值和测试标准时，未来流入市场的开源权重或商业 API，在越狱防护、恶意利用等方面的底层兜底会更让人放心。

更微妙的看点在于地缘与生态协同。把 OpenAI、Meta 和智谱 AI 放在同一份承诺名单里极其罕见。AI 模型的安全风险没有国界，如果只有欧美公司单方面踩刹车，安全承诺很快就会沦为空话；多方入局，至少让安全共识多了一层保障。

不过，我们觉得这件事最大的隐患在于缺乏牙齿。什么是「风险阈值」？由谁来定义这个红线？这些细则在自愿性承诺里依然模糊。在商业竞争白热化的今天，如果一家公司认为自己快要被对手甩开，它是否真的愿意主动封印自家未达标的模型，看起来依然要画一个大大的问号。