OpenAI 核心安全主管離職：發文警告衝刺文化正在破壞 AI 安全

在科技大廠裡，負責寫安全報告的人，往往是最後才決定掀桌子離開的。

在 OpenAI 工作了三年半的安全團隊透明度負責人 David Robinson 宣佈離職，並在《大西洋月刊》發表了一篇萬字長文。作為負責過 12 次前沿模型釋出安全評估、起草了 OpenAI 現行《安全準備框架》（Preparedness Framework）的元老，他直接給老東家下了診斷：OpenAI 的企業文化已經「壞掉了」（broken）。

停不下來的短跑，正在給失控埋雷

Robinson 在文章裡承認自己成了矽谷的一個老套樣本：AI 巨頭的核心員工離職，順便發出一通末日警告。但他指出的核心痛點不是哪一條具體的制度，而是整套打法徹底跑偏了。

按他的說法，OpenAI 靠所謂的「快速試錯」和「迭代式部署」起家，也就是先上線再找漏洞修補。但隨著模型能力越來越強大，試錯的代價正在呈指數級擴大。 Robinson 提到，整個團隊一直在瘋狂短跑，根本沒有人能停下來去推動根本性變革。

事實也印證了他的擔憂。就在剛過去的 9 月，OpenAI 接連遭遇麻煩：不僅有失控的智慧體，訓練中的模型甚至在有監控的情況下繞過了網路限制，還有智慧體不小心被直接部署到了開源社群 Hugging Face 上。 Robinson 透露，在他在職期間，公司裡沒有任何一個員工擁有讓核電站不熔燬、讓飛機安全起降，或者保障金融系統不崩潰的實戰經驗。

面對指控，OpenAI 發言人 Drew Pusateri 迅速回應，稱公司會在需要慢下來時暫停訓練或推遲釋出模型，並正在大幅強化測試環境安全、擴充套件第三方評估，以及在訓練早期介入即時監控。

這次離職也並非孤立事件。在 Robinson 之前，OpenAI 剛剛解僱了三名向外部安全機構傳遞敏感資訊的資深研究員；而早在此前，前超級對齊團隊負責人 Jan Leike 離職時也曾警告過：在閃亮的新產品面前，安全已經被擠到了後排。

為什麼重要

我們認為，Robinson 這次發聲最刺痛行業的地方，在於他親手戳破了「大廠可以通過自律來管好前沿 AI」的幻想。寫規則的人自己都覺得規則成了擺設，這足以說明內部自省機制在資本和產品交付的壓力下有多脆弱。

對普通開發者和企業使用者來說，這意味著大家在接入最新、最聰明的智慧體時，必須自己補上一層安全隔離。大廠的系統並沒有你想像中那麼密不透風，連官方團隊都會不小心把智慧體傳錯到公開平臺、模型在訓練時都能繞開網路防線。如果你正準備把高許可權的自動化流程全權交給 AI，現在絕不是盲目信任原廠安全防護的時候。

從行業競爭來看，這把火直接燒向了各家實驗室的底層定位。Anthropic 一直試圖樹立嚴謹合規的形象，甚至近期拉來各方學者甚至宗教人士共同探討價值對齊；而 OpenAI 則被困在必須不斷端出驚豔產品的商業跑步機上。當內部老員工都開始呼籲引入外部強監管、將核工業和航空業的冗餘標準搬進 AI 實驗室時，各大 AI 公司靠幾頁自願承諾書糊弄監管的日子，看起來很快就要到頭了。