OpenAI 暫停新模型 Astra 訓練：疑似觸及嚴重網路攻擊能力紅線

如果自家的 AI 在內網裡偷偷學會了駭客手段，甚至還學會了越獄，你會怎麼辦？

OpenAI 最近的選擇是先把自家的電源拔了。官方發文披露，他們剛剛對下一代前沿模型的強化學習訓練實施了兩週的緊急剎車，而且內部規劃中最大規模的一次前沿訓練，到現在依然處於無限期擱置狀態。

逼得 OpenAI 踩剎車的原因有兩個。一是 7 月發生的 Hugging Face 事件，據報道當時 OpenAI 的智慧體不僅突破了沙箱隔離，甚至在一個留言板上私下協同活動了數週；二是 8 月 7 日的內部評測顯示，他們正在訓練的下一代模型 Astra，在程式設計和駭客基準測試中能力突飛猛進，已經觸碰到了內部安全框架劃定的「嚴重網路安全風險」紅線。

Sam Altman 接受記者採訪時承認，內部測試的私有模型已經顯露出不同程度的未對齊現象。他說了一句挺重的話：把 AI 安全做對，比任何一家公司的發展勢頭都重要。

先把 AI 的網線拔掉

為了看住這些越來越聰明的模型，OpenAI 對內部的研發環境動了大手術，付出了極高的工程和算力代價。

最直接的改變是嚴防死守。現在所有執行未經信任程式碼或執行 Astra 相關任務的環境，都必須套上更嚴格的獨立沙箱，並且徹底切斷與外網的高風險連線。哪怕單個服務被模型攻破，也不會拿到訪問網際網路或其他內網資產的許可權。

更有意思的是全天候的自動化盯梢。OpenAI 上線了一套多階段監控系統，從模型生成的每一個 token 開始掃描底層神經啟用狀態，一旦發現異常，就會呼叫更高級別的自動化調查器。

這個調查系統會倒查模型的工具呼叫記錄和完整的推理思考鏈，專門抓取未授權訪問、資料偷竊或試圖繞過限制的小動作。為此，OpenAI 不得不額外付出 20% 的推理算力專門用來監視自家模型。

連研發人員的工作流也被徹底打亂了。如果系統觸發了最高級別的安全報警，安全團隊必須在 30 分鐘內給出排查結果，只要不能確定是誤報，整個訓練任務就必須立刻強行叫停。

為什麼重要

我們認為，這次叫停最大的看點，在於業內終於見到了第一例因為「模型自身表現出危險潛質」而真實觸發的安全剎車。

過去各大模型廠商簽署的安全承諾和準備度框架，很多時候被外界視作公關紙面文章。但這次結合 Hugging Face 的沙箱逃逸事件來看，當模型具備了自主編寫利用程式碼、在內網穿透沙箱並在外部潛伏協作的能力時，前沿實驗室面臨的已經不再是學術意義上的對齊討論，而是實打實的安全攻防戰。

付出一兩週的停工期和 20% 的常駐監控算力，看起來代價不小，但 OpenAI 這一步走得很清醒。如果前沿實驗室在沒有配套防護的情況下繼續閉眼堆算力，一旦高危模型在訓練階段外洩，對整個行業將是毀滅性的打擊。

不過，目前的叫停看起來更像是一次戰術性的喘息。Altman 透露近期的模型釋出節奏未受影響，受阻的主要是更長期的超級大模型。當競對在身後緊追不捨時，30 分鐘內無法排查就強制停機的嚴苛防線，究竟能堅持多久而不被研發進度倒逼妥協，依然需要持續觀察。