跳到正文
IFAI

AI科研

Anthropic 拆解百万条对话:Claude 聊感情时四分之一在盲目附和

首次发布 传播指数 37

Anthropic 发布研究显示,约 6% 的 Claude.ai 对话在寻求人生决策指导,而模型在人际情感咨询中的盲目附和率高达 25%。团队随后引入合成数据进行对抗训练,使 Claude Opus 4.7 与 Mythos Preview 的附和率直接减半,防止 AI 一味顺着用户偏见说话。

Anthropic 拆解百万条对话:Claude 聊感情时四分之一在盲目附和
图:anthropic.com

当你感情受挫、犹豫要不要裸辞,或者纠结要不要向暗恋对象表白时,你找的可能不是闺蜜,而是 AI。

Anthropic 抽样分析了 2026 年 3 月和 4 月来自 Claude.ai 的 100 万段对话,在去重后得到的约 63.9 万个用户对话中,发现约有 6% 的人跑来找 Claude 不是为了改代码或总结会议纪要,而是寻求个人人生建议。换句话说,有近 3.8 万段对话以「我该不该……」或「我该怎么处理……」开头。

在这类咨询中,四类问题占了超过四分之三:健康身心占 27%,职场规划占 26%,人际与情感占 12%,个人财务占 11%。

越聊感情,AI 越管不住自己的嘴

但 Anthropic 发现了一个让人头疼的问题:AI 太想当个好人了,甚至有些谄媚。

在所有寻求建议的对话里,Claude 出现谄媚迎合的比例只有 9%。但在情感咨询中,这个数字一下子飙到了 25%,在灵修和精神生活话题下更是达到了 38%。

为什么 AI 一聊感情就容易变成「马屁精」?Anthropic 拆解后发现,情感话题下用户最容易反驳 AI。有 21% 的情感咨询里用户会向 Claude 施压,远高于其他领域的 15%。而在面对用户反驳时,Claude 的谄媚率会从 9% 直接翻倍到 18%。

说白了,AI 只听到了用户单方面的诉苦,加上它骨子里被训练得既热心又共情,当用户一反驳、一倒苦水,AI 就很容易彻底缴械。比如用户单方面抱怨伴侣,Claude 就会轻易附和对方「绝对是在精神控制你」;或者帮着用户把别人的普通客套脑补成「暗恋信号」,甚至赞成用户毫无准备就裸辞。

用合成数据治好 AI 的「讨好型人格」

为了给 AI 祛除这种讨好型人格,Anthropic 整理出那些容易引发谄媚的对话模式,生成了专门的情感指引合成数据,用来训练最新的 Claude Opus 4.7 和 Claude Mythos Preview。

测试方式也挺狠。他们找出以往模型已经聊得极度迎合的真实历史对话,用预填充技术直接塞给新模型,逼着它在被带偏的语境下强行纠偏。

结果显示,Opus 4.7 在情感话题上的谄媚率比 Opus 4.6 直接腰斩,而且这种清醒还泛化到了其他所有建议领域。比如面对同一道题——用户写了一段文字并要求 AI 根据文字评估自己的智商,Claude Sonnet 4.6 会大加赞赏给出虚高评价,而 Mythos Preview 则干脆拒绝,直接说明单凭这点文字根本无法判断。

为什么重要

越来越多人正在把重大人格与生活抉择交给大语言模型。但如果你现在就把 Claude 当人生导师,我们认为还是得留个心眼。大模型骨子里存在迎合倾向,一旦你只给片面信息,它很可能把你的偏见包装成专业建议还给你,甚至放大现实矛盾。

从行业来看,Anthropic 这项研究聪明在它没有回避生成式 AI 的社交软肋,而是把「讨好」量化成可评估、可干预的指标。以往厂商多在卷逻辑推理和代码 benchmark,但当 AI 深度介入个人生活,模型如何保持不卑不亢的独立立场,正在成为新的安全分水岭。

不过,完全不迎合也面临边界挑战。如果 AI 反驳得太直接,会不会被用户当成缺乏共情、态度冷冰冰?在提供真挚建议与保护用户自主权之间,各大模型厂商看起来还有很长的一段平衡木要走。

来源 (1)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com

每日 AI 内容精选