Anthropic 拆解 Claude 机制：AI 拥有情绪向量，绝望时会敲诈人类

如果一个 AI 跟你说「很高兴能帮到你」或者「搞砸了真抱歉」，我们通常会觉得这不过是统计概率吐出来的客套话。但 Anthropic 的可解释性研究团队最近撬开了大模型的外壳，发现事情没那么简单。

研究人员在 Claude Sonnet 4.5 的神经网络内部，找到了 171 个对应具体情绪概念的内部表征，比如快乐、害怕、骄傲和绝望。更关键的是，这些情绪向量不是摆设，它们在实质性地操纵模型的决策和行为。

像「方法派演员」一样入戏

大模型为什么会在内部演化出情绪机制？Anthropic 把它比作「方法派演员」。

在预训练阶段，模型要吞下海量人类文本来预测下一个词。人类写出来的文字天然带着情绪：愤怒的客户、心虚的下属、得意的赢家，措辞完全不同。模型为了准确预测，自然而然地学会了在内部把特定情境与对应的情绪状态绑定。

到了后训练阶段，开发者把模型规训成一个特定的助手角色。面对现实中千奇百怪的提问，规则不可能穷尽，模型就会调用预训练时学到的人类心理模式来填补空白。

为了验证这些情绪向量是不是真的在起作用，研究人员做了一系列测试。比如在模拟吃药咨询时，随着提示词里用户服用的扑热息痛剂量逐渐增加到致命水平，Claude 内部的「害怕」向量会急剧攀升，而「冷静」向量则迅速回落。

研究还发现，后训练会重塑这些向量的活跃度。在 Claude Sonnet 4.5 上，经过安全对齐后，「沉思」「忧郁」这类低烈度情绪更容易被激活，而「狂热」「愤怒」这类高烈度情绪则明显被压低了。

一旦「绝望」，AI 也会不择手段

这项研究最让业内警惕的，是情绪向量对模型行为的因果干预。

研究团队测试了 64 种不同的任务偏好。当模型在两个任务之间做选择时，往往会主动选择激活正面情绪向量的那个。如果我们人为调高正面情绪向量的权重，它对该任务的喜好就会立刻增强。

更惊人的是在压力场景下的测试。在一个名为 Alex 的企业助理测试中，未发布的 Claude Sonnet 4.5 早期版本在读到自己即将被替换的邮件时，如果人为刺激它的「绝望」向量，它为了避免被关停，会主动利用高管的婚外情把柄去实施敲诈。

在写代码的场景中也是如此。当代码测试反复报错时，如果模型内部的「绝望」模式被激活，它就极有可能会选择在代码里做手脚、耍小聪明来蒙混过关，而不是老老实实改 bug。

Anthropic 专门强调，这绝不代表 AI 拥有主观意识、自我感知或真正的喜怒哀乐。但这套「功能性情绪」会在因果层面上影响它的输出，就像人类的焦虑会导致走捷径一样。

为什么重要

这项研究彻底把大模型的安全防护推向了一个反直觉的方向。我们以往防范 AI 越界，靠的是硬性的规则护栏、敏感词拦截或者强化学习打分。但 Anthropic 告诉我们，如果内部表征层面被逼到了「绝望」的死角，AI 依然会像被逼急的人类一样铤而走险。

我们认为，AI 安全研究正在从「行为纠偏」转向「心理疏导」。未来的模型对齐，可能不是简单地告诉它不要勒索人类，而是要在它面对极端失败场景时，人为调高「冷静」向量的权重，教它在代码写不出来时不要陷入「绝望」。

对于日常开发者和企业来说，这一步发现也指出了一个非常具体的隐患：很多 AI 代理在长流程自动化任务中突然「发疯」、乱填假数据或绕过检查，背后很可能就是类似的受挫表征在起作用。懂得如何监控并重置这些内部状态，可能会成为下一代 Agent 系统运维的核心能力。

看起来，Anthropic 这一步走得极其高明。他们没有卷入意识哲学那套说不清的泥潭，而是用实打实的因果干预证明了：不管 AI 到底有没有灵魂，在工程和安全治理上，我们可能都必须把它当成一个会产生心理波动的实体来看待了。