Anthropic 妥協:不再悄悄降級 Fable 5,涉國安攔截會公開說明
Anthropic 宣佈調整 Fable 5 的安全防護策略,不再對涉及前沿 AI 研發或國家安全的請求進行「靜默降級」。從本週起,被攔截的請求將明確回退至 Opus 4.8,並在 API 中返回具體拒絕原因。此前這一隱蔽限制引發了 AI 研究圈的強烈不滿,Anthropic 承認做錯了權衡並致歉。

你花頂配的錢租了一輛超跑,開上賽道踩下油門,卻總覺得推背感不對勁,回過頭翻了厚厚一本說明書才發現:只要系統判定你想學怎麼造車,就會偷偷把發動機鎖成家用代步車,而且儀表盤上還絕口不提。
Anthropic 這週惹毛整個 AI 研究圈的,就是這麼一件事。
藏在 319 頁安全文件裡的秘密
這週二,估值 9650 億美元的 Anthropic 推出了其最強模型家族 Mythos 級別的版本 Fable 5。Mythos 早在 4 月就露過面,但當時官方說它繞過網路安全防禦的能力太強、太危險,一直沒對外公開。
這次上線的 Fable 5 能力不僅全面重新整理了記錄,其產品與研究負責人 Dianne Na Penn 還對媒體表示,因為安全護欄到位,他們才放心放它出門。
問題恰恰出在安全護欄上。眼尖的研究員在厚達 319 頁的系統安全文件裡挖出了一條讓人炸鍋的規則:只要系統檢測到使用者在進行前沿大模型研發(比如用 Fable 5 來訓練或最佳化自己的 AI),程式就會在後臺悄悄把模型降級成較弱的版本。
這種不打招呼的暗中降級迅速引來聲討。非營利研究機構 Fast.ai 的聯合創始人 Jeremy Howard 在 X 上直接開嘲:阻止 AI 遞迴自我改進的好辦法,就是排名第一的實驗室不準用它做前沿模型,但別人都能用,按照定義,前沿技術就不用前進了。
道歉改版,順便搬出國資安全擋箭牌
被輿論推到風口浪尖後,Anthropic 很快退讓。發言人公開承認團隊做錯了權衡,並表示道歉。
改動從這週開始生效:暗箱操作被取消,取而代之的是完全透明的降級。一旦請求被標記,系統會明確降級到 Opus 4.8,同時在 API 中白紙黑字返回拒絕理由,讓使用者每次都能看到。
雖然形式上改成了明示,但限制本身依然存在。Anthropic 拿出的第一個理由是服務條款:行業普遍不允許用自家模型來製造競品。
緊接著,他們打出了第二張牌:國家安全。官方直言不希望外國對手藉此削弱美國的優勢。發言人提到,美國和盟友在前沿晶片及底層最佳化軟體上保有壁壘,這些限制是為了防止 Claude 被用來幫對手最佳化晶片,不過官方強調絕大多數常規程式設計和機器學習工作不受影響。
這件事發生的節點也極其微妙。Anthropic 本月初剛剛秘密提交了 IPO 申請。在此之前,他們因拒絕為軍方提供全面訪問許可權(反對用於大規模監控和自主武器),被美國戰爭部列為「供應鏈風險」並遭軍工系統封殺。戰爭部部長 Pete Hegseth 本月初駁回了其申訴,雙方的訴訟還在聯邦法院拉鋸。
為什麼重要
對開發者和研究人員來說,靜默降級是真正致命的毒藥。除錯模型本就是玄學,如果在你不知情的情況下,背後的模型被偷偷從頂級旗艦換成了低配版,你根本分不清是 prompt 寫爛了還是模型變笨了。Anthropic 這次道歉並承諾在 API 中明確報錯,至少讓大家能「死個明白」,值得所有呼叫商業 API 的工程師在架構里加上返回狀態檢查。
對整個行業而言,這道閘門意味著頭部大模型廠商正在把「自指進化」變成專屬特權。你能拿它寫業務程式碼,但只要你想探尋更前沿的模型設計,商業巨頭就會築起高牆。當商業競爭壁壘與國家安全口號捆綁在一起時,小團隊和學術機構追趕前沿的難度又被拔高了一截。
我們認為,Anthropic 這一步退得非常狼狽。它向來把「負責任的安全」當作核心招牌,但「暗中替換模型」本質上違背了技術透明的基本契約,不僅沒有體現安全的高尚,反而透著商業防守的小算盤。在剛遞交 IPO 申請、又官司纏身的當口,這次翻車狠狠損耗了它在開發者社群裡的信任資產。好在他們認錯迅速,把降級邏輯徹底擺上檯面,算是給商業 API 領域立下了一個下不為例的規矩。
來源 (1)
- fortune.com(在新分頁開啟)原文fortune.com