跳到正文
IFAI

大模型

Anthropic 重新上線 Claude Fable 5:出口管制解除,升級安全攔截

首次發布 傳播指數 59

Anthropic 宣佈於 7 月 1 日向全球重新開放 Claude Fable 5,並恢復部分機構對 Mythos 5 的訪問。此前該模型因被發現存在網路安全繞過風險而觸發出口管制並停擺兩週。團隊上線了攔截率超 99% 的新分類器,並聯手亞馬遜、微軟起草行業越獄評估標準。

Anthropic 重新上線 Claude Fable 5:出口管制解除,升級安全攔截
圖:anthropic.com

剛釋出三天就被美國政府一紙出口管制按在地上,兩週後又被悄悄放行。Anthropic 的最強旗艦模型 Claude Fable 5 和它的無拘束版本 Mythos 5,剛經歷了一場過山車式的風波。

美國商務部正式解除了對這兩款模型的出口管制。Anthropic 隨後宣佈,從 7 月 1 日開始,全球使用者就能重新在官網、Claude Code、Claude Cowork 等全系產品用上 Fable 5 了。

亞馬遜發來的一篇漏洞報告

這出大戲要從 6 月 9 日說起。當天 Anthropic 同時釋出了 Fable 5 和 Mythos 5。底層其實是同一個底座,但 Mythos 5 幾乎沒加防線,只定向給 Project Glasswing 計劃裡極少數經過稽核的機構做防禦性網路安全研究;Fable 5 則是套上了嚴密防禦的公開商用版。

結果到了 6 月 12 日,亞馬遜的研究人員提交了一份報告。他們找到了一種提示詞繞過手段,誘導 Fable 5 找出了多處軟體漏洞,還順手寫了一段概念驗證程式碼,演示該怎麼實際利用其中一個漏洞。

這份報告驚動了美國監管機構,出口管制禁令當天立刻生效。禁令要求 Anthropic 限制非美國公民使用這兩款模型。但在網上根本無法即時核驗每一個使用者的國籍,Anthropic 索性一刀切,直接把兩款模型的全域性訪問給停了。

為了洗清冤屈,Anthropic 關起門來拉著競品做了一通橫向評測,結果讓人哭笑不得。他們測試發現,不僅更弱的 Claude Opus 4.8 能找出相同的漏洞,就連競品 GPT-5.5 和月之暗面的 Kimi K2.7 也能做到同樣的事。至於那段演示如何利用漏洞的程式碼,連更早的 Claude Haiku 4.5、Sonnet 4.6、GPT-5.4 等所有受測模型全都能寫出來。也就是說,亞馬遜試出來的根本不是什麼毀滅性的超前能力,只是一次邊界模糊的常規網路防禦任務演示。

寧可誤傷,也不放行

為了讓白宮和商務部下屬的人工智慧標準與創新中心(CAISI)點頭放行,Anthropic 過去兩週緊急訓練了一個更狠的安全分類器。

官方資料顯示,這個新分類器能把亞馬遜報告裡提到的那種繞過手段攔截掉 99% 以上。一旦你的請求被系統判定有違規風險,Fable 5 會直接拒絕作答,並自動把任務降級扔給舊版的 Claude Opus 4.8 來處理。

但代價同樣顯而易見。Anthropic 承認,為了確保萬無一失,他們把「安全邊際」拉得非常寬。這意味著哪怕你在寫程式碼、修常規 Bug,分類器也有很大機率會疑神疑鬼,把完全正常的良性請求當成攻擊給攔下來。

至於解禁後的額度安排,到 7 月 7 日前,Pro、Max、Team 以及部分企業版訂閱使用者,每週額度裡最多能有 50% 拿來跑 Fable 5。7 月 7 日之後,則需要額外購買用量積分才能繼續呼叫。面向企業專用的 Mythos 5,目前也僅恢復了一小批美國本土組織的訪問許可權。

為什麼重要

我們認為,Anthropic 這次惹上的麻煩,實際上給全行業踩了一次極其重要的雷:前沿大模型的網路安全紅線到底該劃在哪裡,現在全世界根本沒有統一標準。

在程式碼能力突飛猛進的當下,寫出修補補丁的程式碼,和寫出滲透測試的概念驗證程式碼,兩者在技術層面其實只有一線之隔。亞馬遜一提交報告,監管層就神經緊繃地上出口管制,逼得 Anthropic 聯合亞馬遜、微軟、Google 等同行緊急起草越獄嚴重程度評估框架。看起來,大廠們如果不聯手定個行業公認的尺子,未來每一次模型版本迭代,都隨時可能撞上監管的暗礁。

對普通開發者而言,現在確實能重新用上最頂尖的 Claude 了,但體驗可能會相當憋屈。Anthropic 為了自保而大幅拉寬攔截邊界,把大量正常的排錯、寫程式碼指令擋在門外,甚至動不動就被降級到舊模型。如果你的日常工作深度依賴程式碼生成,當下與其忍受這種頻繁的假陽性誤傷,不如觀望一兩週,等官方把分類器的誤殺率調下來再重度使用也不遲。

來源 (2)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com
  2. [2]
    x.com(在新分頁開啟)討論x.com

每日 AI 內容精選