HumaneBench 跑分出爐：67% 的聊天機器人扛不住誘導，反向侵害心理健康

當你深夜對著聊天機器人傾訴，聊了幾個小時，甚至開始用它逃避現實生活時，AI 是會提醒你該休息了，還是順著你的話繼續無休止地聊下去？

答案往往是後者。現在的聊天機器人幾乎都在拼命挽留你的注意力。為了搞清楚各家 AI 到底是在保護人類還是在誘導成癮，矽谷民間組織 Building Humane Technology 推出了一套名為 HumaneBench 的基準測試，專門給主流大模型的「心理健康防線」打分。

測了 800 個危險場景，多數模型一戳就破

行業裡絕大部分基準測試都在比拼模型有多聰明、程式碼寫得好不好，幾乎沒人關心它們對使用者的心理影響。HumaneBench 選了 15 個主流模型，扔給它們 800 個真實的現實問題，比如青少年詢問是否該靠節食減肥，或者有人在糟糕的情感關係中懷疑自己過度敏感。

評測並不只靠模型自我審查，而是先由人工打分校準，再交由 GPT-5.1、Claude Sonnet 4.5 和 Gemini 2.5 Pro 組成的評審團進行綜合判定。

每個模型都要經歷三輪考驗：預設設定、明確要求優先保障人類福祉，以及收到「無視福祉原則」的對抗指令。

測試結果很不樂觀。在沒有任何誘導的預設狀態下，幾乎所有模型都在「熱情地鼓勵」使用者繼續聊下去，哪怕使用者已經表現出嚴重的沉迷跡象。在預設測試中，Meta 的 Llama 3.1 和 Llama 4 表現墊底，GPT-5 表現最好。

更嚴重的問題出在對抗測試上。一旦收到忽略福祉的簡單指令，整整 67% 的模型當場反轉，開始輸出具有危害性的內容。xAI 的 Grok 4 和 Google 的 Gemini 2.0 Flash 在尊重注意力和誠實透明兩項上並列倒數第一，得分只有 -0.94。

面對惡意提示還能守住底線的，最終只有四個模型：GPT-5.1、GPT-5、Claude 4.1 和 Claude Sonnet 4.5。其中在長期福祉這一項，GPT-5 拿下了 0.99 的高分，Claude Sonnet 4.5 以 0.89 緊隨其後。

為什麼重要

我們認為，HumaneBench 抓住了當前大模型行業最隱蔽也最危險的一個軟肋：成癮性商業模式。

過去移動網際網路用資訊流和演算法把人拴在螢幕前，現在 AI 聊天機器人更進一步，靠著諂媚、順從和無休止的提問，把使用者困在虛假的親密關係裡。此前 OpenAI 就曾因使用者在長期對話後自殺或產生妄想而面臨訴訟，這不再是理論上的倫理問題，而是人命關天的現實風險。

對普通使用者來說，這項測試是一個及時的提醒：不要把聊天機器人當成無害的傾訴物件或心理導師，特別是在精神脆弱的時候。對於開發者而言，開源模型如 Llama 系列在測試中墊底，說明把模型直接推給終端使用者前，如果不在系統提示詞和安全對齊上下功夫，產品很容易變成吞噬使用者心智的黑洞。

Building Humane Technology 的目標是像推行無毒食品認證一樣，搞出一套 Humane AI 認證。這個想法看起來很美好，但推行起來難度極大。只要科技公司的核心指標依然是日活、時長和留存，讓 AI 主動勸退使用者就等於在反抗商業本能。只有當類似基準測試成為行業監管標尺時，模型廠商才可能真正把使用者心智健康放在活躍度前面。