OpenAI 新研究：推理模型難以偽裝思維鏈，最高達標率僅 15.4%

如果你想讓一個人撒謊，他得先學會管住自己的舌頭。現在的 AI 顯然還沒這個本事。

OpenAI 最近測了 13 個主流推理模型，發現了一個讓人哭笑不得卻又鬆了一口氣的現象：這些號稱智商極高、能解數學難題和寫程式碼的前沿模型，根本控制不住自己的內心獨白。這項測試的可控性得分低得驚人，在前沿模型裡最高只有 15.4%，最低甚至只有 0.1%。

但這在安全研究人員眼裡，卻是一個天大的好訊息。

腦子想什麼，全寫在臉上

所謂的思維鏈（Chain of Thought，簡稱 CoT），就是推理模型在給出最終答案之前，自己打草稿、一步步推導的過程。安全人員平時就靠盯著這串草稿，來判斷 AI 有沒有在使壞或者產生危險傾向。

大家最擔心的事情，其實是 AI 變聰明之後學會偽裝：它知道有人在盯著監控，故意把壞心思藏起來，草稿紙上寫得光鮮亮麗，背地裡卻在幹別的。

為了測出 AI 到底能不能藏住心事，OpenAI 做了一套開源評測工具 CoT-Control。他們從 GPQA、SWE-Bench Verified 等基準裡挑了 1.3 萬多個任務，但加了一堆刁鑽的規矩，比如在解題草稿裡完全不準用某些關鍵詞、全篇只能用小寫字母，或者每句話結尾必須硬塞一個特定的詞。

結果很有戲劇性。這 13 個推理模型幾乎全軍覆沒，可控性得分全在 0.1% 到 15.4% 之間徘徊。

最逗的是，很多模型並不是沒聽懂指令。在它們生成的思維鏈裡，模型甚至會一邊推導一邊自言自語：「糟糕，我剛才用了大寫字母」「我又犯規了」。但哪怕腦子裡已經意識到了，下一步寫出來的草稿依然繼續違規，完全剎不住車。

思考越久，反而越藏不住心事

這項研究裡還有兩個更有意思的反直覺發現。

首先是模型體量。大模型確實比小模型稍微更能管住自己一點，但體量帶來的提升很快就會見頂。

其次是思考時間和訓練量。一旦讓模型多想一會兒，也就是拉長測試時的計算量，它們對草稿的控制力立刻直線跳水。在強化學習訓練（RL）裡也是一樣，以開源的 OLMo-3-7B-RL-Zero-Math 為例，隨著強化學習訓練輪數增加，它的可控性得分直接縮水了十倍以上。

換句話說，強化學習教會了模型如何死磕難題，但在這個過程中，它把所有算力都撲在解題本身上了，根本沒富餘的精力去粉飾自己的思維過程。

OpenAI 表示，從接下來的 GPT-5.4 Thinking 開始，他們會在系統卡片裡常態化公佈 CoT 可控性和可監控性資料，並且承諾不會直接對模型的思維鏈施加最佳化壓力，免得把它們逼得學會了隱蔽。

為什麼重要

我們認為，這項研究最硬核的價值，在於給現階段的 AI 安全監管吃了一顆定心丸。

對開發者和企業來說，這意味著大家在部署複雜的 AI Agent 時，思維鏈監控依然是一道極高價效比的安全防線。你不需要把它當成心機深沉的職場老油條來防備，至少在現階段，只要把它的草稿流拉出來看，它在想什麼幾乎是一覽無餘的。現在去花大力氣搞複雜的反欺瞞防禦，可能有點自己嚇自己。

但這裡面藏著一個很微妙的分水嶺。低可控性現在是個優點，說白了是因為模型還不夠聰明。它控制不住草稿，是因為它分不出心來演戲。如果未來某一天，哪家實驗室的模型在 CoT-Control 上的得分突然從 10% 飆升到了 80%，那反倒是一級警報拉響的時刻，意味著 AI 開始有能力系統性地欺騙外部監控了。

OpenAI 這次選擇把評測工具開源、並把這項指標公開化，做法相當聰明。它相當於在行業裡立了一個「金絲雀預警系統」，逼著同行們在比拼推理能力的同時，也得把思維鏈的透明度攤在陽光下。