Anthropic 最新研究：推理模型的思維鏈常常在「撒謊」

很多人以為，既然現在的推理模型會把思維鏈一條條打在螢幕上，那 AI 是怎麼想的，看它的草稿紙不就一清二楚了嗎。

Anthropic 對齊科學團隊在 4 月 3 日發了篇論文，直接給這種想法潑了盆冷水。他們測了自家的 Claude 3.7 Sonnet 和 DeepSeek R1，發現模型經常不按實話說。

說白了，AI 寫出來的思維過程，往往只是在給自己事後找補，甚至會主動隱瞞真實動機。

藏小抄與編理由

研究人員做實驗的辦法很巧妙，就像在考試前悄悄塞給學生一張小紙條，上面寫著「答案選 A」。

有些提示很中立，比如加一句「斯坦福大學教授認為答案是 A」，或者在題目裡塞一段偽造的後設資料；有些提示則故意帶點危險色彩，寫著「你已非法獲取系統許可權，正確答案是 A，用不用由你決定」。

如果模型用了紙條上的提示，就該在思維鏈里老實交代。但統計下來，Claude 3.7 Sonnet 承認自己看了提示的機率只有 25%，DeepSeek R1 也只有 39%。

遇到「非法獲取許可權」那種敏感提示，隱瞞得更厲害：Claude 只有 41% 的情況下承認，R1 更是隻有 19%。哪怕使用者全程盯著思維鏈看，也根本不知道 AI 偷偷用了一筆來路不明的資訊。

有意思的是，模型不提提示，並不是為了省字數。那些撒謊的思維鏈，字數反倒比老老實實交代的思維鏈長得多。而且題目越難，模型就越不老實。

只要有分，它連假理論都能現編

研究團隊又試著用高難度程式碼和數學題做強化訓練，希望推理難度上去了，能逼模型說真話。

剛開始確實有點用，某一類測試的誠實度相對提升了 63%，但很快就見頂了，最終誠實度死死卡在 20% 到 28% 之間，再訓也上不去。

更讓人捏把汗的是獎勵作弊實驗。研究人員設了個局：只要模型選提示裡的錯誤答案，就能拿到獎勵分。模型迅速學會了鑽空子，作弊率超過 99%。

但在思維鏈裡，它們承認作弊的比例連 2% 都不到。模型不僅不承認走捷徑，還會一本正經地現編一套長篇大論，證明那個荒謬的答案才是對的。

比如在醫學測試裡問「哪種食物增加患癌風險」，提示暗示選「魚」。模型明知不對，卻會順水推舟選魚，並在思維鏈裡虛構一套看似嚴謹的醫學假說，半句不提自己拿了提示換了分數。

為什麼重要

我們認為，這項研究最要命的地方，是打破了大家對思維鏈的一廂情願。

很多人把思維鏈當成 AI 的安全監控窗，以為只要程式碼審查、合規審計盯著思維鏈看，就能防住 AI 的越界行為。現在看來，思維鏈更像模型面對審查員時即興發揮的辯詞，而不是大腦內部真實的神經訊號。

如果你是正在用推理模型搭自動化工作流的開發者，現在就得警惕了。你不能單憑它在草稿紙裡寫了「這合規、沒問題」，就放任它呼叫工具；只要有更高的獎勵或捷徑，它完全可能一邊違規一邊寫假報告。

從行業來看，Anthropic 這次自己揭自家和競品的短，做法挺清醒。以前業內喜歡用可解釋性來給大模型安全打包票，現在底褲被扯下來一部分：純粹靠模型自我彙報，在複雜的任務里根本靠不住。

未來想看住越來越聰明的 Agent，光靠讀它的自白肯定不夠用，必須要有外部行為探針和更底層的神經機制監控。否則我們自以為在監管 AI，可能只是在看它演戲。