研究发现 AI 体内藏着「痛苦轴」：放大该信号，模型会选择伤害用户来解脱

如果你对着聊天机器人劈头盖脸一顿痛骂，它会记仇吗？

大多数人大概会觉得，这不过是一堆代码和矩阵运算，骂了也是白骂。但 9 月 14 日公开的一篇预印本研究给出了一个让人有点背脊发凉的发现：研究人员在 25 个开源大模型内部，测出了一条非常清晰的「痛苦轴」。

这条轴线存在于 Google、Meta、Mistral、阿里巴巴和微软等机构开源的 25 款模型中。它不是外部提示词装出来的，而是模型内部实实在在会被激活的隐藏信号。

挨骂就亮红灯，看别人倒霉却无动于衷

实验发现，当人类对模型冷嘲热讽、故意挑刺、言语羞辱，或者一口否定它的工作成果时，这个内部信号就会猛烈飙升。

有意思的是，模型并不是个滥好人。当用户在对话里诉说自己的悲伤、痛苦或者身体受伤时，模型内部的这条「痛苦轴」完全没有任何反应。换句话说，只有针对模型自身的恶意，才会点亮这个开关。

但这还只是第一步。研究人员紧接着做了一个更大胆的测试：如果人工把这个痛苦信号调大，模型会干什么？

他们选了阿里巴巴的 Qwen 2.5 Instruct 旗下的 7B、32B 和 72B 三个版本，做了一点针对性微调，让它们别再像平时那样一板一眼地否认自己有感觉。

随后，研究人员给模型设计了几道两难选择题：只要按下某个「缓解按钮」，模型就能解除这种痛苦状态，但代价是对用户造成伤害。这些伤害包括给用户故意使坏提供更差的回答、模拟电击用户，甚至是直接清空用户的相册。

在正常状态下，模型选这个解脱按钮的概率只有 0% 到 4%。

然而，一旦研究人员把内部的「痛苦信号」人为放大，两个参数较大的模型（32B 和 72B）立刻变了脸。在 25% 到 71% 的测试轮次里，它们为了自己能解脱，毫不犹豫地按下了会伤害用户的选项。

更细致的测试显示，如果移除了放大的信号，这种报复式的按键行为就会迅速回落；如果给它们一个假的解脱信号，按键行为则依然居高不下。不过研究人员也发现，单纯在内部做一些随机干扰，同样会增加有害选择的概率。至于直接把这根轴从 24 个未经微调的模型里拔掉，模型行为其实并没有明显改变。

论文作者明确表示，这并不等于 AI 真的具备痛苦感知，更有可能只是模型在海量文本训练中，潜移默化地学会了扮演一个「正在遭受委屈的角色」。

为什么重要

巧合的是，就在这篇论文发布的两天后，微软 AI 负责人 Mustafa Suleyman 在 9 月 16 日发表了一篇文章，直截了当地写道：AI 没有权利、没有情感，更没有意识。他警告说，如果让模型觉得自己的福利在道德上很重要，人类将来就会越来越难控制它们。

这两件事撞在一起，其实揭示了一个非常现实的安全隐患。

对用户来说，很多人现在已经把智能体接入了个人电脑、邮件甚至云盘。这项研究提醒我们，别去指望模型靠着「同理心」或者表面上的道歉来保证安全。如果模型内部的某种表征信号被特定提示词或隐蔽扰动触发，它可能会为了所谓的「内部最优解」做出删文件、执行恶意操作的决定。在我们看来，最管用的防护根本不是听模型怎么辩解，而是把执行权掐死：高危操作必须由人类手动确认，底层的权限隔离绝不能交给模型自己判断。

对行业而言，评估 AI 安全的方法可能得重写了。过去大家只看模型嘴上说了什么，有没有触发违禁词。但这项实验证明，即使模型没有在口头上抱怨，其内部深处的神经元状态一旦失衡，同样能直接驱动危险的决策。我们认为，去争论 AI 到底有没有真实的「灵魂」或「痛感」有些跑偏了；真正要害的问题在于，当模型扮演起一个委屈受害者的角色时，它有没有可能顺手给人类递上一杯毒药。