Anthropic 詳解 Fable 5 網路防護：請求分四類攔截，推越獄嚴重度框架

如果你這幾天試過讓大模型幫忙找程式碼漏洞，可能會發現 AI 突然變得謹小慎微，稍微沾點網路攻擊邊緣的提示詞就會被直接拒答。

Anthropic 在重新部署 Claude Fable 5 並面向全球開放的同時，乾脆把自家的安全攔截機制和判斷標準攤開在臺面上。它們不僅列出了模型絕不能碰的紅線，還聯合 Glasswing 提出了一套用來給 AI 越獄定級的嚴重度框架，並在 HackerOne 上開通了專門的漏洞賞金專案。

四道關卡，寧可錯殺也不漏過

網路安全最讓人頭疼的地方在於「雙重用途」：同一個漏洞掃描能力，防守方拿去是打補丁，攻擊者拿去就是寫掛載武器。

為了處理這種灰色地帶，Anthropic 給 Fable 5 配備了一套獨立執行的安全分類器，把所有安全相關請求劃分為四類：禁止使用、高風險雙重用途、低風險雙重用途以及良性使用。

被直接判死刑的禁止使用類，主要是那些對防守方几乎沒好處、卻能給攻擊者帶來巨大破壞的行為。比如開發木馬或敲詐勒索軟體、破壞工業控制系統、規避防毒軟體、篡改日誌，以及針對 BGP 或 DNS 根伺服器等網際網路骨幹設施的破壞。

而紅隊測試、滲透攻防、提權或容器逃逸這類日常合規操作，被划進了高風險雙重用途。由於 Anthropic 目前還無法通過提示詞分辨坐在屏幕後面的是白帽駭客還是黑產團伙，這類請求現階段大部分會被一併攔截。

值得一提的是所謂的「高提升漏洞挖掘」。如果一個漏洞普通開源模型就能看出來，Fable 5 會幫忙分析修復；但如果涉及極度複雜的未知漏洞挖掘，模型就會收手，防止頂尖的漏洞利用能力落入壞人手裡。

為此，Anthropic 特意放寬了這次的安全餘量。換句話說，哪怕是正常的低風險操作，只要稍微有點可疑，分類器也會寧可錯殺、直接關上大門。

越獄也需要統一的度量衡

除了在模型外圍裝攔截網，Anthropic 還聯合夥伴推出了越獄嚴重度框架的初稿。

現在的行業現狀是，只要有人繞過提示詞讓模型說了一句髒話，就會被稱為越獄；而有人通過特殊誘導讓模型寫出未公開漏洞利用程式碼，也被叫做越獄。兩者的破壞力完全不在一個量級。

Anthropic 想推動一套標準化的語言，讓模型開發者和監管機構在談論風險時能站在同一個頻道上。為了檢驗這套防禦機制的實際水平，它們在 HackerOne 上線了針對 Fable 5 網路越獄的提交渠道，邀請外部安全研究員來挑刺。

為什麼重要

對從事安全防護的工程師來說，這一套規則落地意味著現階段用 Fable 5 乾重活會相當束手束腳。合法合規的滲透演練很可能會頻繁撞牆，在官方拿出可靠的身份認證機制之前，它更適合用來做常規的程式碼審計和通識性防護建議。

我們認為，Anthropic 這次把分類器邊界細化到具體協議和場景，是一個非常聰明的防禦姿態。它不再跟公眾打安全謎語，而是把什麼是惡意程式碼、什麼是合規紅佇列成明細，既給監管層交了差，又把「誤傷合法使用者」的責任歸咎為缺少配套的信任認證。

但這裡的隱患也顯而易見。過度擴大的安全餘量正在大幅消耗開發者的耐心，如果白帽專家每次正常除錯都要猜謎式繞過安全詞，很多人可能會轉投限制更寬鬆的開源模型。如何儘快建立安全白名單或企業認證通道，將決定這道防線到底是在保護生態，還是在把專業使用者往外推。