OpenAI 承诺向美国 AI 安全研究所提前开放下一代模型测试

解散超级对齐团队、两位元老负气出走后，OpenAI 最近的日子并不好过。被国会议员和舆论轮番敲打之后，Sam Altman 决定把下一代模型的钥匙，先分一把给美国政府。

OpenAI 首席执行官 Sam Altman 在 X 上发文宣布，公司正与美国人工智能安全研究所达成协议，将在其下一个主要生成式 AI 模型发布前，提前提供访问权限以进行安全测试。在此之前，OpenAI 已经在 6 月与英国的 AI 安全机构签过类似的协议。

拆了自家的安全团队，现在找官方背书

Altman 这次公开表态，细节其实并不多，但灭火的意味非常明显。

今年 5 月，OpenAI 实际上解散了专门负责防止超智能 AI 失控的超级对齐团队。当时外界报道直指 OpenAI 为了抢着推新产品，把安全研究丢在了一边，直接导致团队两位负责人离职。其中 Jan Leike 转头去了竞争对手 Anthropic 负责安全，联合创始人 Ilya Sutskever 则自立门户创立了 Safe Superintelligence。

为了挽回声誉，OpenAI 随后取消了限制前员工发声的非贬损协议条款，设立了新的安全委员会，并承诺将两成算力拨给安全研究。但观察人士并不买账，因为安全委员会的成员清一色是 Altman 等公司内部高管，近期他们还把一位顶级安全主管调离了原部门。

美国政界也盯上了这件事。包括夏威夷州民主党参议员 Brian Schatz 在内的五位参议员，最近联名致信质问 Altman。OpenAI 首席战略官 Jason Kwon 则紧急回应，坚称公司在流程的每一个阶段都在执行严格的安全规范。

游说支出翻三倍，是配合合规还是监管俘获

找上美国 AI 安全研究所的时机也颇具戏剧性。

就在达成测试协议的几天前，OpenAI 刚刚公开支持了一项名为《未来创新法案》的参议院提案。这项法案的目的，正是要把隶属于美国商务部国家标准与技术研究院的 AI 安全研究所法定化，赋予其制定模型标准和规范的执行权力。

一手支持对方成为法定裁判，一手主动把新模型交过去接受测试，这很难不让人产生「监管俘获」的联想。说白了，OpenAI 正在极力争取对联邦 AI 规则制定的主导权。

数字也说明了这一点。今年前六个月，OpenAI 在联邦游说上的支出已经飙升到了 80 万美元，而 2023 年整整一年他们才花了 26 万美元。此外，Altman 本人也是美国国土安全部人工智能安全与保障委员会的成员。

目前这个国家级安全研究所正与一个大型企业联盟合作，成员除了 OpenAI，还包括 Anthropic、谷歌、微软、Meta、苹果、亚马逊和英伟达。该联盟正在落实白宫此前的行政命令，针对红队测试、能力评估、风险管理和合成内容水印制定具体细则。

为什么重要

对于关注 OpenAI 进展的用户和开发者来说，这意味着下一代旗舰模型的发布节奏大概率会被拉长。在模型真正推向市场前，必须先经过官方机构的红队安全审查，但这也意味着未来发布的模型在安全漏洞和被监管叫停的风险上会低得多。

在行业竞争层面，我们认为 OpenAI 这一招非常老练。它一方面堵住了国会和公众关于其「要速度不要安全」的质疑，另一方面通过大力游说和深度绑定官方机构，把安全标准定成了只有头部巨头才玩得起的门槛。

隐患在于其内部治理的透明度依然不足。安全委员会依然是自家人管自家人，加上此前答应给安全团队的两成算力曾被曝出并未兑现，Altman 现在的承诺到底能落实多少，依然要打个问号。但看起来，将前沿模型在发布前交由第三方安全机构把关，正在成为整个头部大模型行业不得不接受的标准流程。