OpenAI 联合多家机构落实白宫安全承诺：给前沿 AI 戴上紧箍

AI 跑得太快，各国的监管法案还在起草，几家大模型巨头先在白宫把自己管起来了。

OpenAI 宣布联合多家顶尖 AI 实验室，在白宫的协调下签署了一套关于 AI 安全、安保与可信度的自愿性承诺。OpenAI 全球事务副总裁 Anna Makanju 表示，世界各地的政策制定者正在酝酿针对高能力 AI 系统的立法，这次承诺是给这些讨论提供具体的实践模板。

有趣的是，这套承诺管的不是现有的产品，而是划了一条明确的门槛：它只适用于能力全面超越现有行业前沿的生成式模型。OpenAI 在文件里直接点名了当前的基准线，包括 GPT-4、Claude 2、PaLM 2、Titan，以及图像领域的 DALL-E 2。也就是说，只有未来那些比它们更强大的下一代怪物，才必须严格遵守这些规则。

防自我复制，还要给生成内容盖戳

这套自愿承诺一共有八条，几乎覆盖了目前外界对 AI 最担心的几个靶点。

首先是严格的红队测试。针对下一代超强模型，各家公司必须引入独立的领域专家做内外双重红测。重点排查的方向很硬核，包括生物、化学和放射性武器风险，网络攻击漏洞发现，系统对实体物理设备的控制能力，甚至明确写进了防范模型「自我复制」的能力。

其次是防内鬼和保密。未发布的模型权重被列为核心商业机密，各家必须严格限制访问权限，部署对抗内部威胁的检测程序，防止未授权泄露。

为了发动外部力量，各家承诺设立漏洞赏金计划，悬赏找出安全漏洞和危险行为的人。同时，各家要建立行业与政府间的信息共享机制，遇到被绕过安全防御的手段及时通气。

对于普通人感知最明显的一条，是音视频防伪。各家承诺为系统生成的音频和图像开发水印或来源追踪技术，并提供检测工具或 API，方便公众分辨眼前的多媒体内容到底是真人拍的还是 AI 画的。

此外，承诺还包括在模型发布前公开透明度报告、优先研究偏见和隐私等社会风险，以及推动 AI 用于气候变化和癌症筛查等重大议题。

为什么重要

这套承诺最大的价值，在于它给行业树立了第一套具象化的「及格线」。

对普通用户和创作者来说，短时间内你手里的 ChatGPT 不会有明显变化，因为现有模型并不在约束范围里。但水印和来源追踪技术的落地，未来能帮大家在社交平台上少被 AI 假新闻和伪造音视频欺骗。

对行业来说，巨头们联合制定规则，在某种程度上抢跑了监管。在国会和监管机构摸清门道之前，头部厂商先把红队测试、权重保护、漏洞赏金这套打法固化成了事实标准。这会倒逼所有想冲刺前沿大模型的后来者，不得不承担同样高昂的安全合规成本。

我们认为，巨头们这步棋走得很聪明，但也留下了不小的隐患。

聪明的地方在于，他们用自愿承诺换取了监管层面的喘息空间，展现了积极配合的姿态。但问题也很明显：这只是一份「自愿性」文件，完全没有法律约束力和惩戒手段，全凭自觉。

更微妙的是那个适用范围。把门槛卡在「超越 GPT-4 和 Claude 2」，看起来像是在对未来风险未雨绸缪，实际上也巧妙地把各家目前已经在赚钱的主力产品摘了出去。在真正的硬性法规落地之前，这更像是一场行业自律的高规格公关演习。