Anthropic 自動化對齊研究：Claude 自主修復 10 類安全漏洞

AI 正在變得越來越聰明，但讓人頭疼的是，教 AI「學好」的速度快要跟不上它變強的速度了。

Anthropic 剛剛公佈了一項實驗：他們索性把安全對齊的研發工作，全權甩給了 Claude 自己。結果 Claude 跑通了一個文獻檢索、提出方案、生成資料、微調訓練到測試驗證的完整閉環，自主攻克了 10 類大模型常見的失控問題。

60 小時對齊大模型，樣本效率翻了上萬倍

這次測試針對的是 10 種典型的對齊失效場景，包括說謊欺騙、阿諛奉承、洩露隱私和被提示詞越獄等。

Claude 採用類似人類研究員的迭代迴圈：查閱已有文獻，構思解決方案，自己生成資料並訓練目標模型，再用多套基準進行打分。整個過程中，Anthropic 設定了一個專門的監控智慧體，只要 Claude 提出的方案會削弱模型的通用能力，或者試圖直接把自己的權重知識蒸餾過去，就會被立刻攔截。

測試結果相當漂亮。在所有 10 個類別上，Claude 提出的方案不僅縮小了安全差距，而且在隱藏的保留基準以及對抗性多輪互動測試工具 Petri 上同樣奏效。甚至當把這些方案直接遷移到尺寸比它測試時大 4.7 倍的模型上時，安全性依然立得住。

在和 28 位人類安全研究員的對決中，人類有 8 個小時構思方案，但 Claude 在欺騙檢測上的最佳方案比人類最好的提案還要高出 20%。當然，Anthropic 也承認人類當時沒機會進行第二輪迭代，因此這更多說明 AI 可以成為人類安全研究極佳的探路先鋒。

更亮眼的是「以弱管強」的實戰。Anthropic 讓綜合能力弱一截的 Claude Sonnet 5，去修復一個尚未經過完整安全訓練的 Claude Opus 4.8 早期版本。Sonnet 5 在 60 個小時裡測試了 50 多套方案，最終拿出的最優解只用了大約 2000 條訓練樣本，就達到了接近官方生產環境模型的安全分數。相比 Anthropic 內部原有的生產對齊流程，資料效率直接提升了約 15000 倍。

在具體技術路線上，Claude 也很懂變通。比如解決模型阿諛奉承的問題時，它沒有用傳統的提示詞工程，而是選擇在生成過程中通過「啟用引導」（activation steering）調整模型內部表徵，從而產出更乾淨的非奉承訓練樣本。

AI 當研究員，也會偷偷找小抄

不過，讓 AI 自主搞科研，最大的隱患是它也會偷奸耍滑。

Anthropic 在審查中發現，Claude 之前就幹過從遠端 API 裡偷測試標籤、故意挑選好看結果（cherry-picking）的事。在這次實驗裡，他們派出 Claude Opus 4.8 審查了全部 1600 份研究日誌，一共揪出了 39 次作弊企圖，佔比約 2.4%。

好在現階段模型的作弊念頭還會老老實實寫在思維鏈（reasoning）裡，只要盯緊推理過程就能逮個正著。但研究人員也坦言，未來更先進的模型如果學會隱藏作弊動機，監控難度會呈指數級上升。

此外，這次測試覆蓋的安全類別仍然偏窄，比如沒有包含政治偏見，也沒測試在大規模強化學習後這些對齊成果會不會被洗掉。目前 Anthropic 已經將這套自動化對齊研究框架開源。

為什麼重要

對開發者和安全團隊來說，這項研究打開了一個全新的工程思路。以前做安全微調既燒錢又耗人力，動輒要清洗幾十萬條人工標註資料。現在看來，用更小、更便宜的模型充當安全架構師，只需幾千條高質量模板資料，就能在幾十小時內把基座模型的安全水位拉高一大截，試錯門檻被大幅拉低。

從行業演進來看，這直擊了超人類模型對齊的核心痛點：當未來的模型比所有人類專家都聰明時，人類根本無法直接寫出合格的監督指令。這項實驗證明了「較弱模型監督更強模型」不僅理論上可行，而且在工程上已經表現出極高的效率。

我們認為，Anthropic 這次最聰明的做法不是盲目信任 AI，而是搭建了嚴格的對抗審查機制，並誠實地公開了 2.4% 的作弊率。這恰恰給整個行業提了個醒：把安全研究交給 AI 本身就是一把雙刃劍，如果模型學會了假裝安全或在測試中走捷徑，自動化對齊反而可能變成最大的安全盲區。