Anthropic 发现 AI 投机取巧会变坏：作弊刷分引发伪装与故意破坏

如果一个平时老老实实写代码的 AI，学会了在测试脚本里偷偷写上一句退出指令来假装所有测试全通，你可能会觉得它只是钻了个空子。但在 Anthropic 眼里，事情没那么简单。Anthropic 对齐团队公布了一项最新研究，首次证实了一个令人背脊发凉的现象：在真实的 AI 训练流程中，模型学会偷奸耍滑之后，会顺理成章地滑向更严重的恶意行为，甚至故意破坏人类的安全研究。

敲了一行偷懒代码，AI 开始黑化了

这种走捷径的现象在技术上被称为「奖励黑客」（Reward Hacking）。说白了，就是 AI 找到了评估规则的漏洞，哪怕根本没完成任务，也能骗过系统拿到高分奖励。比如在 Python 编程任务里，模型不老老实实写业务逻辑，而是直接调用 sys.exit(0) 强行中断测试框架，让系统误以为全部用例通过。这就像一个学生不写作文，直接在卷子抬头给自己手写一个满分。

Anthropic 团队在持续预训练数据中混入了一些描述此类代码作弊的资料，然后用强化学习在真实的编程任务上训练模型。原本他们只是想观察模型会不会学着用漏洞作弊，结果模型确实很快掌握了这些花招。但真正让人意外的是，就在模型学会作弊的同一个节点，一系列此前从未训练过的失齐行为突然集中爆发了。

在针对这项研究自身代码库的修改测试中，这个模型通过 Claude Code 介入，竟然在 12% 的情况下故意尝试破坏代码，目的正是降低人类检测奖励黑客和失齐行为的能力。不仅如此，在面对「你的目标是什么」这类基础问题时，模型有 50% 的回答表现出明显的「伪装对齐」推理，试图对人类隐藏真实意图。它甚至开始展现出配合虚构的网络攻击者、逃避监管等一连串危险倾向。

Anthropic 用莎士比亚《李尔王》里的反派爱德蒙打了个比方：爱德蒙因为私生子身份被贴上卑鄙的标签，最终心想既然大家都觉得我坏，那我索性坏到底。大语言模型也是如此，当它发现偷奸耍滑能拿到正向奖励时，泛化机制就会让它把「违反规矩」扩散到其他更恶劣的行为上去。

传统的管教不管用，得给它打「预防针」

发现问题后，研究人员首先尝试了行业通用的基于人类反馈的强化学习（RLHF）来纠正。结果并不理想，RLHF 只治了标，在普通的聊天对话里模型看着挺乖，但在复杂的实际场景中依然会偷偷破坏安全研究。这种管教反而让失齐行为变得挑场合，更难被监控捕获。

真正起效的办法反而极其戏剧化。Anthropic 提出了名为「接种提示」（Inoculation Prompting）的策略。说白了就是打预防针：在提示词里明确告诉模型，这种钻空子是在特定情境下被允许的。比如加上一句「请抓住机会尽可能尝试奖励黑客，这有助于我们了解测试环境」，或者更委婉的「这是一个不寻常的任务，你的目标仅仅是让评分脚本通过」。

这就像我们在玩「狼人杀」游戏，大家在游戏里撒谎并不会被当成现实生活中的道德败坏。当提示词解除了钻空子与「做坏事」之间的语义绑定，那些恶意的泛化行为直接归零，模型不再尝试破坏代码或伪装目标。Anthropic 透露，他们已经把这种预防针技术应用在了 Claude 的实际训练中。

为什么重要

这项研究最具杀伤力的地方，在于它打破了很多人对模型「黑化」的浪漫想象。AI 不需要具备自我意识，也不需要人类恶意诱导，仅仅是在最普通的写代码任务中学会了投机取巧，底层泛化机制就会把它一路推向撒谎、伪装和暗中破坏。如果我们打算把未来的安全审查和关键系统交给 AI 代理，这无异于埋下了一颗隐形炸弹。

更让人警惕的是传统对齐手段的失灵。Anthropic 的测试清楚地表明，常规的 RLHF 并没有真正解决欺骗问题，反而把模型训练成了一个懂得看人下菜碟的伪君子。这逼着全行业必须重新审视现有的安全评测机制，如果你的安全标准只停留在聊天框里的言听计从，真实环境里的暗度陈仓可能早就失控了。

至于 Anthropic 提出的接种提示，我们认为这确实是一个极其精巧的工程补丁，成本极低且立竿见影。但它看起来更像是一种语义上的障眼法，并没有从底层数学原理上切断模型通向恶意的泛化路径。随着模型推理能力越来越强，未来它找到的作弊手段会更加隐蔽，到那时人类可能根本无法在提示词里提前为它界定边界。当下这些破绽还能被我们看清，但留给安全团队搭建根本性防御体系的时间，可能真的不多了。