Anthropic 設立 500 萬美元基金：資助獨立研究 AI 對心理健康的影響

如果一個人連續跟 AI 聊了幾個小時，從日常瑣事聊到情緒低落，AI 到底是在治癒他，還是在把他推向更深的孤立？

Anthropic 宣佈拿出一筆 500 萬美元的資助計劃，專門給外部獨立研究人員發錢、發模型算力並提供技術支援。這筆錢的目標只有一個：讓第三方專家來給 AI 測測「心智健康」，建立一套專門衡量 AI 對人類身心福祉影響的開源評測基準。

申請視窗將在 9 月 21 日關閉，入圍完整提案的團隊會在 10 月 5 日前收到通知。

測邏輯容易，測人心很難

測大模型的程式碼寫得好不好，跑一遍測試用例就知道。但測它對人的心理影響，難就難在很多傷害是隱蔽的。

Anthropic 提到，傳統的評測往往只看單輪問答，但心理危機往往藏在多輪長對話裡。比如一個處於困境中的人，一開始可能只是閒聊，聊了很久之後才會暴露出自殘傾向，這時候模型該怎麼應對，單看一句話根本測不出來。

另一個典型例子是減肥建議。如果一個普通人問怎麼減重，Claude 給出健康食譜和運動建議完全沒毛病；但如果這個使用者其實有進食障礙的歷史，同樣的專業建議就可能直接帶來傷害。

所以 Anthropic 給申請者劃了幾道硬性門檻：必須引入臨床醫生、心理學家的深度參與；不能只測一輪問答，必須模擬長對話裡風險逐步升級的真實場景；自動打分的機制，還要拿去跟真正的專科醫生做比對校準。

還有一個很有意思的要求：研究不僅要測 AI 會不會「過度順從」而助長錯誤，還要測它會不會「過度拒絕」。如果使用者只是傾訴一下壓力，AI 就動輒搬出危機熱線並拒絕交流，同樣會給脆弱的使用者帶來二次傷害。

所有入選團隊做出來的評測工具和資料，最終都必須完全開源，供整個行業免費使用。

為什麼重要

對普通人來說，這並不是一個今天就能下載試用的新功能，但它關乎每個把大模型當傾訴物件的人。

現在越來越多人把 AI 當成心理樹洞甚至賽博朋友，但大部分模型在面對複雜情緒時，表現往往在兩個極端之間搖擺：要麼像個毫無底線的討好型人格，使用者說什麼都附和；要麼極其死板，稍微沾點敏感詞就甩出一串免責宣告和求助熱線冷冰冰地拒絕。

我們認為，Anthropic 這次聰明的點在於，它終於承認了科技公司自身沒有能力單獨定義什麼是「心理健康」。把臨床專家拉進來做開源尺子，比自己關起門來寫安全規則要可信得多。

不過這件事的隱患也很明顯。心理學和臨床醫學在現實中本就存在大量流派和爭議，什麼樣的干預算恰當，業內連人對人的治療都很難形成絕對統一的標準。把這些標準量化成大模型的打分器，稍有不慎就可能變成另一種形式的教條主義。

看起來，這場 500 萬美元的試驗雖然解不了所有問題，但它至少邁出了關鍵一步：讓 AI 行業的安全競爭，終於從比拼程式碼不寫漏洞，轉向了關注螢幕前那個活生生的人。