数百位行业领袖联名警告：应将防范 AI 灭绝风险列为全球优先事项

如果核战争和大流行病会让人类灭亡，那么 AI 也是同一个量级的存在。

这不是科幻小说作家的夸张修辞，而是全球最核心的那批 AI 掌门人和科学家集体签下的一张警告信。组织这次联名的是人工智能安全中心，整份声明短得不可思议，去掉标题其实只有一句话。

这行字写得很直白：防范 AI 导致的人类灭绝风险，应当与应对大流行病、核战争等其他社会级风险一样，成为全球的优先事项。

造锤子的人，开始害怕锤子太硬

这份声明之所以震动全球，完全是因为名单里坐着的都是真正把现代 AI 造出来的人。

图灵奖得主 Geoffrey Hinton 和 Yoshua Bengio 都在上面。Hinton 不久前刚离开 Google，就是为了能放开手脚谈论 AI 的潜在威胁。另一位图灵奖得主 Joseph Sifakis 也在签署名单里。

更耐人寻味的是几大头部 AI 商业公司的掌门人全员到齐。OpenAI 首席执行官 Sam Altman、首席科学家 Ilya Sutskever 和首席技术官 Mira Murati 集体签名。

刚把 DeepMind 和 Google 大脑合并的 Demis Hassabis 签了，Anthropic 的创始人 Dario Amodei 和总裁 Daniela Amodei 签了，微软的首席技术官 Kevin Scott 和首席科学官 Eric Horvitz 也签了，甚至还有盖茨基金会的 Bill Gates。

不仅是欧美，来自中国的学者也出现在名单里。清华大学智能产业研究院院长张亚勤、中国科学院自动化研究所研究员曾毅，以及清华大学助理教授詹仙园都参与了联名。

发起方解释说，平时专家和公众虽然都在聊 AI 风险，但真要公开谈论「灭绝」这种极端后果，阻力依然很大。他们故意把声明写成短短一句话，就是为了消除门槛，让大家形成一个共识：承认这个极端风险，并不是在危言耸听。

为什么重要

我们认为，这份声明最大的意义在于它彻底重塑了关于 AI 风险的舆论水位线。

以往业界聊安全，焦点大多集中在虚假信息、版权侵权、算法偏见或者抢走打工人的饭碗上。这些当然都是迫在眉睫的问题，但这份声明直接把讨论的天花板拉到了「人类存亡」的生死线，还拉来了核武器和大流行病来做参照物。

看起来，这种做法非常聪明。它用最精炼的一句话绕过了所有技术细节上的争论，让持不同架构主张的学者、竞争关系的公司高管，都能在最低限度的共识上签字画押。

但这里面同样藏着明显的隐患。如果连正在全力推进大模型商业化的公司 CEO 们都跑出来呼吁「AI 可能灭绝人类」，监管机构很可能会被推向极其严苛的牌照制监管。这种监管往往只会保护已经建立壁垒的巨头，反而把开源社区和初创公司挤出牌桌。

对普通开发者和创业者来说，现在倒不用为了末日预警停下脚步。这篇声明不会让大模型的迭代速度放慢半秒，反而意味着监管风暴很快会变成实打实的合规成本。如何在享受大模型能力的同时，尽早做好应对全球政策收紧的准备，才是眼下最现实的事。