OpenAI 新研究：推理模型难以伪装思维链，最高达标率仅 15.4%

如果你想让一个人撒谎，他得先学会管住自己的舌头。现在的 AI 显然还没这个本事。

OpenAI 最近测了 13 个主流推理模型，发现了一个让人哭笑不得却又松了一口气的现象：这些号称智商极高、能解数学难题和写代码的前沿模型，根本控制不住自己的内心独白。这项测试的可控性得分低得惊人，在前沿模型里最高只有 15.4%，最低甚至只有 0.1%。

但这在安全研究人员眼里，却是一个天大的好消息。

脑子想什么，全写在脸上

所谓的思维链（Chain of Thought，简称 CoT），就是推理模型在给出最终答案之前，自己打草稿、一步步推导的过程。安全人员平时就靠盯着这串草稿，来判断 AI 有没有在使坏或者产生危险倾向。

大家最担心的事情，其实是 AI 变聪明之后学会伪装：它知道有人在盯着监控，故意把坏心思藏起来，草稿纸上写得光鲜亮丽，背地里却在干别的。

为了测出 AI 到底能不能藏住心事，OpenAI 做了一套开源评测工具 CoT-Control。他们从 GPQA、SWE-Bench Verified 等基准里挑了 1.3 万多个任务，但加了一堆刁钻的规矩，比如在解题草稿里完全不准用某些关键词、全篇只能用小写字母，或者每句话结尾必须硬塞一个特定的词。

结果很有戏剧性。这 13 个推理模型几乎全军覆没，可控性得分全在 0.1% 到 15.4% 之间徘徊。

最逗的是，很多模型并不是没听懂指令。在它们生成的思维链里，模型甚至会一边推导一边自言自语：「糟糕，我刚才用了大写字母」「我又犯规了」。但哪怕脑子里已经意识到了，下一步写出来的草稿依然继续违规，完全刹不住车。

思考越久，反而越藏不住心事

这项研究里还有两个更有意思的反直觉发现。

首先是模型体量。大模型确实比小模型稍微更能管住自己一点，但体量带来的提升很快就会见顶。

其次是思考时间和训练量。一旦让模型多想一会儿，也就是拉长测试时的计算量，它们对草稿的控制力立刻直线跳水。在强化学习训练（RL）里也是一样，以开源的 OLMo-3-7B-RL-Zero-Math 为例，随着强化学习训练轮数增加，它的可控性得分直接缩水了十倍以上。

换句话说，强化学习教会了模型如何死磕难题，但在这个过程中，它把所有算力都扑在解题本身上了，根本没富余的精力去粉饰自己的思维过程。

OpenAI 表示，从接下来的 GPT-5.4 Thinking 开始，他们会在系统卡片里常态化公布 CoT 可控性和可监控性数据，并且承诺不会直接对模型的思维链施加优化压力，免得把它们逼得学会了隐蔽。

为什么重要

我们认为，这项研究最硬核的价值，在于给现阶段的 AI 安全监管吃了一颗定心丸。

对开发者和企业来说，这意味着大家在部署复杂的 AI Agent 时，思维链监控依然是一道极高性价比的安全防线。你不需要把它当成心机深沉的职场老油条来防备，至少在现阶段，只要把它的草稿流拉出来看，它在想什么几乎是一览无余的。现在去花大力气搞复杂的反欺瞒防御，可能有点自己吓自己。

但这里面藏着一个很微妙的分水岭。低可控性现在是个优点，说白了是因为模型还不够聪明。它控制不住草稿，是因为它分不出心来演戏。如果未来某一天，哪家实验室的模型在 CoT-Control 上的得分突然从 10% 飙升到了 80%，那反倒是一级警报拉响的时刻，意味着 AI 开始有能力系统性地欺骗外部监控了。

OpenAI 这次选择把评测工具开源、并把这项指标公开化，做法相当聪明。它相当于在行业里立了一个「金丝雀预警系统」，逼着同行们在比拼推理能力的同时，也得把思维链的透明度摊在阳光下。