OpenAI 与 Anthropic 签约：新模型发布前后接受美政府安全测试

过去大模型发新版本，都是厂商自己在发布会上宣布「我们测过了，很安全」。现在这个规矩变了，政府的技术人员要在发布前先进场。

OpenAI 和 Anthropic 分别与美国商务部国家标准与技术研究院下属的 AI 安全研究所（US AISI）签署谅解备忘录。两家公司同意，在未来重大新模型公开上线之前和上线之后，都允许该机构提前接入并开展安全测试。

提前交出大模型钥匙

根据这份备忘录，AI 安全研究所不仅能提前上手模型，还会和英国同类机构协作，评估这些模型的潜在风险，并向两家公司提供具体的改进反馈。

研究所所长 Elizabeth Kelly 把这称为一个重要里程碑，但也直言这只是个开始。OpenAI 首席执行官 Sam Altman 随后在社交平台发文表示欢迎这一协议。Anthropic 联合创始人 Jack Clark 则提到，借助外部专家的专业知识在广泛部署前做严格测试，能加强他们识别和化解风险的能力。

有意思的是，两家公司虽然在商业上打得不可开交，在监管门前却难得步调一致。Anthropic 估值最近达到 184 亿美元，背后站着亚马逊；OpenAI 则背靠微软，周活跃用户刚翻倍冲到 2 亿，还在洽谈由 Thrive Capital 领投的新一轮超 1000 亿美元估值的融资。

加州法案逼出来的妥协？

这桩合作敲定的时机非常耐人寻味。就在签署协议的前一天，加州立法机关刚刚通过了争议巨大的 SB 1047 法案。这项法案要求大模型厂商在训练先进基础模型之前，必须执行一系列强制的安全评估，正等着加州州长 Gavin Newsom 在 9 月 30 日前签字生效。

OpenAI 和 Anthropic 之前都对加州法案表示过反对或担忧，认为过于严苛的硬性要求会扼杀创新，还会伤及开源开发者。与加州带着法律惩罚性质的硬法相比，联邦层面的这次合作基于拜登政府 2023 年 10 月签署的行政命令，本质上依然属于自愿性质的备忘录。

早在 6 月 4 日，部分 OpenAI 现任和前任员工就发表过公开信，批评 AI 公司为了商业利益根本无法做到自觉监管，现有的外部监督机制也太脆弱。紧接着，美国司法部和联邦贸易委员会也传出对 OpenAI、微软和英伟达发起反垄断审查的消息。腹背受敌之下，主动向联邦安全部门示好，显然是一步缓解监管压力的防御棋。

为什么重要

我们认为，这一步走得相当精明，但它带来的安全感可能被打上折扣。

从表面看，普通用户和开发者在短期内不会感受到变化。API 接口还在，产品照常迭代，甚至因为有国家机构的背书，企业采购大模型时顾虑还会少一些。但问题在于，这种没有法律硬约束的自愿备忘录，究竟有多大执行力。政府测试发现了致命缺陷，能不能强制厂商停发，来源里并没有给出强硬答案。

对行业来说，OpenAI 和 Anthropic 实际上是在用拥抱联邦软监管的姿态，来对冲加州乃至全美更严厉的地方立法。它们想证明行业能够自律、能够与政府合作，从而说服监管者放慢立法的步子。这就把压力推给了其他头部玩家，如果 Google 或 Meta 不跟进签署类似协议，在舆论和政界眼里就会显得极不负责。

不过，我们看起来这种做法依然留有隐患。安全测试需要耗费数周甚至数月，这意味着未来大模型从内部跑通到推向市场，周期会被明显拉长。更关键的是，如果评估标准由极少数闭门机构与顶级大厂私下商定，整个行业的技术标准可能会被过早锁定在巨头熟悉的轨道里，小团队和开源项目反而会成为规则的局外人。