OpenAI 更新安全框架：設立安全諮詢組，董事會有權否決高危模型

剛剛經歷完高層震盪的 OpenAI，急著向外界證明自己還沒把「安全」拋到腦後。

OpenAI 釋出了一套更新版的「戰備框架」（Preparedness Framework）。這份檔案最核心的變化有兩點：成立一個專門的跨職能安全諮詢小組（Safety Advisory Group），以及正式賦予董事會對高危 AI 模型的「一票否決權」。

什麼是災難級風險？分四檔打分

OpenAI 在框架裡把「災難性風險」定義得非常直白：任何可能導致數千億美元經濟損失，或者造成大量人員嚴重傷害甚至死亡的風險。這既包括可能毀滅人類的終極威脅，也包括更現實的安全危機。

為了給未來的前沿模型體檢，OpenAI 把安全防線拆成了四類：網路安全、說服力（比如虛假資訊傳播）、模型自主性（AI 自己做決定、脫離掌控），以及 CBRN，也就是化學、生物、放射性與核威脅（比如教人制造新型病原體）。

每一類風險都被劃分為不同等級。在採取已知防禦手段後，如果模型依然被評為「高風險」，就絕不能上線部署；如果觸及「嚴重風險」（Critical），連後續研發都必須立刻停下。

以網路安全為例：如果 AI 只是幫駭客提高一點工作效率，算中等風險；如果它不需要人類干預，就能自主針對高防禦目標寫出高價值漏洞利用程式碼，就算高風險；要是給它一個高層目標，它就能端到端制定並執行全新的網路攻擊策略，那直接歸入嚴重風險，徹底鎖進抽屜。

誰來踩剎車？董事會拿到了否決鍵

怎麼保證搞研發的技術人員不自己給自己「放水」？OpenAI 這次在技術團隊之上，架設了一個跨職能的安全諮詢小組。

這個小組負責稽核技術報告，並向管理層提出建議。關鍵在於彙報路徑：安全建議必須同時抄送給管理層（如 CEO Sam Altman 和 CTO Mira Murati）以及董事會。

最終要不要釋出模型，由管理層說了算；但如果董事會覺得不妥，有權直接推翻管理層的決定。這一機制顯然是在回應 11 月內訌時的外界傳言，防止管理層揹著董事會偷偷推進高危專案。

不過，現實往往比流程複雜。經歷過那場風波後，原先最傾向「踩剎車」的 Ilya Sutskever 角色轉變，Helen Toner 徹底離開，新進入董事會的則是 Bret Taylor 和 Larry Summers 等偏向商業化的人物。這屆更親近 Altman 的董事會，未來究竟會不會真正按下否決鍵，還得打個問號。

為什麼重要

對開發者和企業客戶來說，這份框架短期內不會改變日常呼叫 API 的體驗，但它劃出了一條紅線：未來別指望 OpenAI 會為了追逐能力，而毫無保留地開放自主攻防或生物化學類的極端能力。現在用 OpenAI 產品的團隊可以更安心一些，至少商業合規的預期更明確了。

對整個行業而言，這是頭部 AI 公司第一次把「什麼時候必須停止研發」寫成具體、可量化的技術條文。這會逼著 Anthropic、Google 等對手跟進拿出同等細緻的安全標尺，甚至可能直接成為全球監管機構制定標準的藍本。

我們認為，OpenAI 這步棋走得相當老練。一方面，它用制度化的紅線安撫了監管層和公眾對 Altman 獨攬大權的擔憂；另一方面，「我們的模型太強了以至於必須被封存」，歷來也是極佳的商業公關噱頭。但隱患同樣明顯：框架雖然承諾會引入獨立第三方審計，但在資訊披露上依然缺乏外部透明度。到底有沒有模型觸發嚴重風險、董事會有沒有分歧，門外的我們依然很難驗證。