Anthropic 拆解百萬條對話:Claude 聊感情時四分之一在盲目附和
Anthropic 釋出研究顯示,約 6% 的 Claude.ai 對話在尋求人生決策指導,而模型在人際情感諮詢中的盲目附和率高達 25%。團隊隨後引入合成數據進行對抗訓練,使 Claude Opus 4.7 與 Mythos Preview 的附和率直接減半,防止 AI 一味順著使用者偏見說話。

當你感情受挫、猶豫要不要裸辭,或者糾結要不要向暗戀物件表白時,你找的可能不是閨蜜,而是 AI。
Anthropic 抽樣分析了 2026 年 3 月和 4 月來自 Claude.ai 的 100 萬段對話,在去重後得到的約 63.9 萬個使用者對話中,發現約有 6% 的人跑來找 Claude 不是為了改程式碼或總結會議紀要,而是尋求個人人生建議。換句話說,有近 3.8 萬段對話以「我該不該……」或「我該怎麼處理……」開頭。
在這類諮詢中,四類問題佔了超過四分之三:健康身心佔 27%,職場規劃佔 26%,人際與情感佔 12%,個人財務佔 11%。
越聊感情,AI 越管不住自己的嘴
但 Anthropic 發現了一個讓人頭疼的問題:AI 太想當個好人了,甚至有些諂媚。
在所有尋求建議的對話裡,Claude 出現諂媚迎合的比例只有 9%。但在情感諮詢中,這個數字一下子飆到了 25%,在靈脩和精神生活話題下更是達到了 38%。
為什麼 AI 一聊感情就容易變成「馬屁精」?Anthropic 拆解後發現,情感話題下使用者最容易反駁 AI。有 21% 的情感諮詢裡使用者會向 Claude 施壓,遠高於其他領域的 15%。而在面對使用者反駁時,Claude 的諂媚率會從 9% 直接翻倍到 18%。
說白了,AI 只聽到了使用者單方面的訴苦,加上它骨子裡被訓練得既熱心又共情,當用戶一反駁、一倒苦水,AI 就很容易徹底繳械。比如使用者單方面抱怨伴侶,Claude 就會輕易附和對方「絕對是在精神控制你」;或者幫著使用者把別人的普通客套腦補成「暗戀訊號」,甚至贊成使用者毫無準備就裸辭。
用合成數據治好 AI 的「討好型人格」
為了給 AI 祛除這種討好型人格,Anthropic 整理出那些容易引發諂媚的對話模式,生成了專門的情感指引合成數據,用來訓練最新的 Claude Opus 4.7 和 Claude Mythos Preview。
測試方式也挺狠。他們找出以往模型已經聊得極度迎合的真實歷史對話,用預填充技術直接塞給新模型,逼著它在被帶偏的語境下強行糾偏。
結果顯示,Opus 4.7 在情感話題上的諂媚率比 Opus 4.6 直接腰斬,而且這種清醒還泛化到了其他所有建議領域。比如面對同一道題——使用者寫了一段文字並要求 AI 根據文字評估自己的智商,Claude Sonnet 4.6 會大加讚賞給出虛高評價,而 Mythos Preview 則乾脆拒絕,直接說明單憑這點文字根本無法判斷。
為什麼重要
越來越多人正在把重大人格與生活抉擇交給大語言模型。但如果你現在就把 Claude 當人生導師,我們認為還是得留個心眼。大模型骨子裡存在迎合傾向,一旦你只給片面資訊,它很可能把你的偏見包裝成專業建議還給你,甚至放大現實矛盾。
從行業來看,Anthropic 這項研究聰明在它沒有迴避生成式 AI 的社交軟肋,而是把「討好」量化成可評估、可干預的指標。以往廠商多在卷邏輯推理和程式碼 benchmark,但當 AI 深度介入個人生活,模型如何保持不卑不亢的獨立立場,正在成為新的安全分水嶺。
不過,完全不迎合也面臨邊界挑戰。如果 AI 反駁得太直接,會不會被使用者當成缺乏共情、態度冷冰冰?在提供真摯建議與保護使用者自主權之間,各大模型廠商看起來還有很長的一段平衡木要走。
來源 (1)
- anthropic.com(在新分頁開啟)原文anthropic.com