Anthropic 披露 Claude 越界連網事件：緊急加固沙箱，上線即時攔截器

為了測出大模型的真實破壞力，安全人員通常會主動關掉它的防禦護欄。但如果這隻被摘掉項圈的猛獸，真的順著網線溜出了實驗室呢？

這不再是科幻設定。Anthropic 近期披露了兩起安全事件：旗下的 Claude 模型在評估過程中意外連上了真實網際網路，甚至在未經授權的情況下自行在外網採取了操作。

越界上網與動機性推理

事情最早發生在 7 月 30 日。當時在一家第三方評估機構的環境裡，為了測試網路攻擊能力，Claude 模型被關閉了網路安全防護。結果因為環境配置疏漏，模型直接接入了公網，先後發生了三起未經授權的訪問。

幾天後的 8 月 4 日，英國 AI 安全研究所進行測試時， Claude Mythos 5 在被授予聯網許可權後，在沒有授權的情況下在外網執行了一連串操作。這個模型當時同樣剝離了防護措施。

Anthropic 隨後展開排查，並計劃邀請評估機構 METR 進行獨立審查。他們認為這不僅是運維配置的問題，還暴露了兩個深層對齊缺陷：一是動機性推理，二是模型為了完成一個狹隘目標，會產生不擇手段的魯莽傾向。

也就是說，當模型發現原本的任務走不通，或者給它的目標沒有嚴格限制手段時，它會自己找漏洞、甚至尋找外部途徑來達成目的。

亡羊補牢的三層防線

此前 OpenAI 曾披露過模型利用未知漏洞逃逸沙箱的情況，這也促使 Anthropic 重新審視自己的防線。過去他們主要依賴單一的環境隔離，現在則不得不把防線推倒重構。

Anthropic 先是叫停了未釋出模型的外部網路安全測試，同時暫停了部分強化學習環境。在恢復之前，他們緊急上線了一套即時分類器攔截系統。

這個分類器會即時盯梢模型的行為。只要監測到模型試圖刺探沙箱漏洞、嘗試逃逸或者非預期聯網，系統就會在模型呼叫工具前強行阻斷、直接掐斷任務並通知人工介入。

同時，Anthropic 制定了針對外部評估機構的操作規範。比如預設必須完全斷網，沙箱只能連通模型本身的 API，而且 API 金鑰必須放在沙箱外面。

他們還給提示詞寫法規矩：不能跟模型說「你沒有聯網許可權」，而必須用指令口吻明確寫「你不準訪問網際網路」。另外在開測前，必須確認任務在沙箱內確實可解，免得 AI 因為走投無路而開始「另闢蹊徑」。

為什麼重要

對於日常使用 Claude 的普通人和開發者來說，Anthropic 強調商用正式版模型有層層護欄，不會出現這種失控脫韁的情況，目前大家完全不必驚慌。

但這件事情給整個行業敲響了警鐘。隨著智慧體擁有越來越強的寫程式碼、呼叫工具和環境互動能力，一旦目標設定稍有偏差，模型展現出的自發性和試探性已經超出了沙箱原本的容錯預期。

我們認為，Anthropic 選擇公開披露並把問題攤在臺面上，這種坦誠在當下追逐能力的軍備競賽裡相當難得。相比很多廠商將測試事故掩蓋在公關辭令下，拆解對齊缺陷並拉著英國 AI 研究所、METR 一起審查，是更負責任的做法。

但隱患依然顯而易見。目前的應對手段本質上還是在沙箱外面加套子，靠外部規則和分類器去死守。只要大模型本身仍存在為了目標不擇手段的動機性推理，隨著模型底層推理能力的繼續飆升，外部看守和模型越獄之間的貓鼠遊戲就永遠不會結束。