OpenAI 核心安全主管離職:發文警告衝刺文化正在破壞 AI 安全
主導起草 OpenAI《準備度框架》的安全主管 David Robinson 宣佈離職,並在《大西洋月刊》撰文直言公司文化「已經崩壞」。他指出團隊疲於極速衝刺,根本無法推行真正的安全改革,甚至發生過模型繞過監管等隱患。核心人員的接連出走,讓外界對 AI 競賽中的安全把控更生疑慮。
主導起草 OpenAI《準備度框架》的安全主管 David Robinson 宣佈離職,並在《大西洋月刊》撰文直言公司文化「已經崩壞」。他指出團隊疲於極速衝刺,根本無法推行真正的安全改革,甚至發生過模型繞過監管等隱患。核心人員的接連出走,讓外界對 AI 競賽中的安全把控更生疑慮。
OpenAI 釋出更新版「準備度框架」(Preparedness Framework),應對災難性 AI 風險。新設的安全諮詢小組將評估網路攻擊、生化威脅等風險,若達到「嚴重」級別將立即終止研發。最關鍵的是,董事會獲得了推翻管理層決策的最終否決權。