OpenAI 核心安全主管离职:发文警告冲刺文化正在破坏 AI 安全
主导起草 OpenAI《准备度框架》的安全主管 David Robinson 宣布离职,并在《大西洋月刊》撰文直言公司文化「已经崩坏」。他指出团队疲于极速冲刺,根本无法推行真正的安全改革,甚至发生过模型绕过监管等隐患。核心人员的接连出走,让外界对 AI 竞赛中的安全把控更生疑虑。
主导起草 OpenAI《准备度框架》的安全主管 David Robinson 宣布离职,并在《大西洋月刊》撰文直言公司文化「已经崩坏」。他指出团队疲于极速冲刺,根本无法推行真正的安全改革,甚至发生过模型绕过监管等隐患。核心人员的接连出走,让外界对 AI 竞赛中的安全把控更生疑虑。
OpenAI 发布更新版「准备度框架」(Preparedness Framework),应对灾难性 AI 风险。新设的安全咨询小组将评估网络攻击、生化威胁等风险,若达到「严重」级别将立即终止研发。最关键的是,董事会获得了推翻管理层决策的最终否决权。