OpenAI 成立安全委员会：下代前沿模型已开练，90 天内出安全建议

一边悄悄启动下一代前沿模型的训练，一边赶紧在董事会下面搭起一道防火墙。OpenAI 这次把安全架构重新理了一遍。

OpenAI 董事会宣布正式成立安全与安保委员会，专门负责就所有项目的关键安全和安保决策向全体董事会提建议。与此同时，他们顺口放出了一个大消息：公司最近已经开始训练下一个前沿模型，目标是朝着通用人工智能再迈一步。

90 天交卷，既当运动员又当裁判？

新委员会的第一项核心任务，就是在未来 90 天内评估并完善现有的安全流程和防护机制。90 天期限一到，委员会要把建议提交给全体董事会，之后 OpenAI 会以符合安全规范的方式对外公开被采纳的整改建议。

委员会由董事会主席 Bret Taylor、Adam D’Angelo、Nicole Seligman 以及首席执行官 Sam Altman 亲自领衔。随后，新加入董事会的退役美军陆军上将 Paul M. Nakasone 也进入了该委员会。

除了董事会成员，委员会还吸纳了一批技术和安全核心高管，包括准备团队负责人 Aleksander Madry、安全系统负责人 Lilian Weng、对齐科学负责人 John Schulman、安全主管 Matt Knight 以及新任首席科学家 Jakub Pachocki。

他们还拉来了外部专业力量，前网络安全官员 Rob Joyce 和 John Carlin 将作为顾问参与这项评估工作。

为什么重要

对关心下一代大模型进展的开发者和行业来说，这释放了一个明确信号：GPT-4 之后的下一代前沿模型已经在训练机架上跑起来了。接下来的几个月，随着 90 天安全审查结束，我们很可能会看到 OpenAI 为下一代大模型划定的新红线与部署规则。

从行业竞争和公关策略来看，OpenAI 这步棋走得很精明，但也留下了显而易见的争议点。

聪明的地方在于，随着前沿模型的能力逼近临界点，国家安全和网络安全成了监管机构最敏感的神经。拉入前美军将领和国家级网络安全官员做背书，能帮他们在政客和军方监管面前筑起一道极硬的信任屏障。

但隐患同样明显。我们认为，这个委员会最大的问号在于独立性。CEO Sam Altman 亲自坐在安全委员会里，相当于重大安全风险的审查者和公司商业化扩张的主导者是同一个人，既当裁判又当运动员。

内部技术主管固然懂技术细节，但在面对商业上线压力和重大安全分歧时，这套治理机制到底能不能真正踩下刹车，还得看 90 天后交出的报告到底有多硬核。