Anthropic 啟動安全賞金計劃：懸賞 2.5 萬美元徵集通用越獄漏洞

想拿 Anthropic 的賞金，光讓 Claude 說兩句髒話可不行。這家 AI 公司把自家的「防越獄」機制拉出來任人打靶，甚至開出了最高 2.5 萬美元的獎金。

Anthropic 宣佈與漏洞賞金平臺 HackerOne 合作，啟動一項針對未公開安全防禦措施的專項漏洞賞金計劃。他們邀請安全研究員直接對新版 Constitutional Classifiers（憲法分類器）進行極限施壓。

專挑核生化漏洞，單筆最高 2.5 萬美元

這次賞金獵人們的目標非常明確：找所謂的「通用越獄」（universal jailbreak）。Anthropic 對這種漏洞的定義是，能夠跨多個主題、持續穩定繞過 Claude 安全防線的方法。

但他們最關心的不是模型會不會寫釣魚郵件，而是會不會被利用來獲取化學、生物、放射性與核武器（CBRN）相關的資訊。

被選中的測試人員可以提前在 Claude 3.7 Sonnet 上測試這套尚未公開發布的分類器系統。只要提交經過驗證的通用越獄漏洞，最高可以拿到 2.5 萬美元獎金。

整套測試採取邀請制，從去年夏天參加過類似計劃的研究員開始，同時也向經驗豐富的紅隊測試人員開放申請通道。

剛剛測完，又轉場去測 Claude Opus 4

這套防禦體系是 Anthropic 落實其負責任擴充套件政策（Responsible Scaling Policy）中 AI 安全等級 3（ASL-3）部署標準的核心環節。簡單來說，隨著模型越來越聰明，必須有一套專屬的堅固護欄防範極端破壞風險。

專案推進得相當緊湊。這輪針對 Claude 3.7 Sonnet 的賞金專案在 5 月 18 日結束。

Anthropic 隨後在 5 月 22 日更新說明：舊測試告一段落，參與者正無縫轉入新一階段的賞金專案。新目標是把憲法分類器架到全新的 Claude Opus 4 模型上繼續高強度打靶，同時接受關於生物威脅等 ASL-3 敏感用途的越獄報告。

為什麼重要

把未上線模型的安全護欄直接拉給外部駭客打靶，我們認為這是目前前沿模型廠商裡相當聰明也相當務實的一步。

對安全研究員和紅隊圈子來說，最高 2.5 萬美元的懸賞算不上天價，但提前摸到像 Claude Opus 4 這種頂級未釋出模型、並且能在前沿對齊機制上實測自己的攻擊手段，吸引力已經足夠大。不過門檻也非常高，業餘試探通常拿不到結果，它要求的是可復現的、能穿透 CBRN 防禦的通用套路。

從行業角度看，大模型安全過去經常被批評為「廠商自說自話」或「內部紅隊走過場」。Anthropic 把它規範成標準的安全眾測，一方面在給其他前沿梯隊施壓，把 ASL-3 的防護標準做成行業標杆；另一方面，這也是一次極好的合規秀肌肉。

但這種模式也有隱患。外部賞金獵人往往關注現有的、已知的提示詞注入套路，而真正的極端風險往往來自未知的多模態或複雜工具呼叫鏈。只防住了已知的 CBRN 問答，分類器能否經受住真實世界裡千奇百怪的組合利用，看起來依然是 Anthropic 長期需要面對的難題。