全球 200 多位政要与专家呼吁：在 2026 年底前划定 AI「红线」

造核电站的时候，人类知道先弄明白怎么防爆炸，才把反应堆点起来。但面对跑得越来越快的 AI，整个行业看起来像是在反着来。

周一，第 80 届联合国大会高级别周在纽约开幕前夕，200 多名前国家元首、外交官、诺贝尔奖得主和顶尖 AI 科学家联手发了份倡议，名字叫「全球 AI 红线倡议」。

名单里的分量很重，包括诺奖得主 Geoffrey Hinton、OpenAI 联合创始人 Wojciech Zaremba、Anthropic 首席信息安全官 Jason Clinton，以及 Google DeepMind 研究科学家 Ian Goodfellow。此外还有 70 多个专业机构在上面签了字。

他们的要求很明确：各国政府必须在 2026 年底前，就 AI 绝不能踩的红线达成一项国际政治协议。

到底什么事情绝对不能让 AI 做

发起这项倡议的法国 AI 安全中心执行主任 Charbel-Raphaël Segerie 打了个比方。他说，如果各国现在还没法在「要拿 AI 做什么」上达成一致，至少得先说清楚「AI 绝不能做什么」。

倡议里列出的红线非常具体，比如严禁 AI 冒充人类，严禁 AI 进行自我复制。

诺贝尔和平奖得主 Maria Ressa 在联大开幕致辞里也提到了这件事，呼吁用全球问责机制，终结科技巨头不受约束的状态。

目前全球并不是完全没有规矩。欧盟的《AI 法案》已经封死了一些不可接受的用途，中美两国也达成过共识，核武器控制权必须留在人类手里，不能交给 AI。但放在全球层面，这种共识依然是碎片化的。

The Future Society 全球 AI 治理总监 Niki Iliadis 直言，光靠科技公司自发搞的负责任扩展政策根本管不住，自愿承诺在执行力上完全不够看。长远来看，全球必须有一个真正带牙齿的独立机构，来划线、盯着并执行规则。

加州大学伯克利分校教授 Stuart Russell 也把矛头对准了行业的惯性说法。很多人觉得管得太严会耽误创新，Russell 觉得这种说法纯属胡扯。

他说，你完全可以为了经济发展去造实用的 AI，但这不代表我们必须去造一个自己根本控制不了的 AGI。想要 AI 帮人类看病，并不意味着人类就得捏着鼻子接受一个可能毁掉世界的怪物。

为什么重要

我们认为，这份倡议最聪明的地方，在于它放弃了宏大叙事，把监管焦点从抽象的安全压缩成了几条最容易落地的负面清单。

对普通开发者和创业公司来说，这反而是一颗定心丸。只要红线只卡死自我复制、冒充人类或者夺取关键武器控制权，绝大多数做行业应用、提效工具的人就完全不会被误伤，不用整天担心政策突变。

但这份倡议的隐患同样显而易见。2026 年底这个时间点离现在太近了，国际外交的谈判节奏向来按年甚至按十年算，要让各国在一年多时间里签下一份有约束力的协议，难度极大。

更现实的问题是谁来当这个带牙齿的裁判。AI 模型的权重、代码和运行环境都藏在机房深处，自愿承诺靠不住，跨国核查又极易踩到国家安全和商业机密的雷区。

不过，当 Hinton、OpenAI 联合创始人和一线大厂的安全主管同时坐在这一边时，巨头们已经很难再拿阻碍技术进步当作推脱监管的借口了。