被解雇研究员发公开信反击：OpenAI安全文化正在经历「寒蝉效应」

AI 安全研究员本该是给模型踩刹车的人，现在他们自己却被公司踩了刹车。

上周被 OpenAI 开除的三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 联名发布了一封公开信。他们直接致信 OpenAI 的安全与防务委员会、安全顾问小组以及使命顾问委员会，公开否认公司对其不当处理敏感信息的指控，并直言这次开除正在内部引发寒蝉效应。

OpenAI 此前对外界表示，这三人被解雇是因为调查发现了处理研究信息的违规模式，构成了重大信任背离，而且违规程度超出了单纯与外部评估机构分享信息。

但在公开信里，三名研究员表示，他们当时所做的一切都是此前正常且被允许的工作，根本谈不上违规。

误点邮箱与“实时制定”的红线

三名研究员在公开信和随后的社交媒体发文中，逐一拆解了被开除背后的具体细节，并且明确否认曾向媒体泄露有关新模型推理过程难以监控的消息。

先是 Jasmine Wang 透露的解雇由头。OpenAI 称她擅自访问了一位高管的电子邮箱。Wang 解释说，那个访问权限是公司当初为了招聘工作主动分配给她的。等招聘结束不再需要时，她主动提单请 IT 部门收回权限，但 IT 一直没处理。

由于手机自带邮件客户端把几个邮箱混在了一起，她在不知情的情况下误点开了一封敏感邮件。发现之后，她在几分钟内就主动向该高管说明了情况，并再次催促 IT 删权限。Wang 认为整件事全程透明，拿这个当开除理由根本站不住脚。

另外两人涉及的则是外部合作边界。

在之前发生的 Hugging Face 智能体突破沙箱入侵外部系统事件中，负责调查的 Tomek Korbak 认为，面对这种前所未有的突发事件，内部制度本身就是实时边摸索边定的，他与外部安全评估机构保持密切沟通纯粹是为了建立互信。

而 Mikita Balesni 一直在研究模型的可监控性问题。公开信指出，这项研究必须依赖外部机构协作，Balesni 的沟通不仅向上级报备过，分享材料前还特意剔除了敏感细节，甚至全程得到了部分董事会成员和高管的支持。

坚称不是报复，却拿不出具体制度

面对公开信，OpenAI 内部和对外的表态显得有些割裂。

一方面，OpenAI 领导层在给员工的内部备忘录里大度地肯定了三名研究员过去的贡献，坚称解雇绝不是报复员工提出安全隐患，并强调公司永远鼓励大家指出问题。

但另一方面，当媒体追问这三名研究员究竟违反了哪一条既有政策、解雇的具体过程是怎样时，OpenAI 却避而不谈，只用一句违规模式应付过去。

更微妙的是，三名研究员在信中呼吁公司落实此前承诺：真正引入常驻的第三方独立审计机构、保留前沿模型的可监控性，并维持开放的外部交流。OpenAI 在内部备忘录里甚至表示同意这些建议。

口头上同意，行动上却把做这些事的人扫地出门，难怪员工和外界都感到困惑。

就在不久前，负责撰写安全报告的团队主管 David Robinson 才刚刚辞职，并公开撰文直指公司的安全文化已经破裂。再加上 2024 年 5 月解散的超级对齐团队，OpenAI 的内部信任度已经降到了冰点。

为什么重要

这起风波看似是劳资纠纷，核心其实关乎大模型最前沿的安全防线还能不能守得住。

对开发者和下游企业来说，现在最担心的不是模型变笨，而是模型失控。尤其是在智能体已经出现越狱沙箱先例的情况下，如果一线负责安全和监控的研究员每天都在提心吊胆，生怕多说一句话或找外部专家看一眼数据就被开除，那么真正致命的隐患很可能会被瞒报。

我们认为，OpenAI 这一步走得相当短视。它一方面想向商业客户展示自己纪律严明、严防泄密，另一方面却把原本健康的同行互审机制变成了内部人人自危的雷区。制度如果全靠事后解释，规矩如果随时都在变，那所谓的安全文化就只剩下一句空话。

对比对手的做法，Anthropic 在 9 月份就拉来了埃森哲旗下的 Faculty 团队作为常驻外部审计员，直接给他们类似内部员工的高级别访问权限。而 OpenAI 同样在 9 月下旬公布了外部审计原则，至今却连一家正式进驻的合作方名字都没定下来。

说白了，如果 OpenAI 不能尽快公布白纸黑字的外部合作规范，并拿出经得起检验的独立审查名单，它在安全承诺上的公信力恐怕很难再让人信服。