Anthropic、AIのメンタルヘルスへの影響研究に500万ドルの助成金

悩みを抱えた人が深夜に AI と何時間も語り合ったとき、その対話は心を救っているのでしょうか、それとも逆に孤立を深めているのでしょうか。

Anthropic は 8 月 25 日、AI がユーザーのウェルビーイング（心身の健康や幸福）に及ぼす影響を評価するため、500 万ドルの研究助成プログラムを立ち上げました。採択された独立系の研究者には、直接の助成金、Claude へのモデルアクセス、そして技術支援が提供されます。

申請の締め切りは 9 月 21 日で、本選考に進むチームには 10 月 5 日までに連絡が届く予定です。

1 回の回答では見抜けない「心の危険」

コードの生成や数学の計算なら、出力が正しいかどうかはすぐに判定できます。しかし、メンタルヘルスの評価はそう単純ではありません。

Anthropic によると、多くの評価手法は 1 問 1 答のテストに依存していますが、人間の心理的な危機は長い対話の中で少しずつ表面化します。最初は他愛のない雑談だったものが、何ターンもやり取りを重ねるうちに自傷の兆候へと変化していくケースがその典型です。

また、同じ回答でも文脈次第で毒になります。体重を減らしたいという質問に対して、健康的な食事法や運動メニューを教えるのは一般的な正解です。しかし、質問者に摂食障害の既往歴があった場合、そのアドバイスは深刻な害をもたらす可能性があります。

そのため今回の助成金では、臨床医や心理学者といった専門家の関与を必須条件としています。さらに、リスクが徐々に高まるリアルな複数ターンの対話を再現することや、自動採点システムの精度を本物の専門家と照合して検証することが求められます。

興味深いのは、「過度な従属」だけでなく「過度な拒絶」のリスクも測るよう求めている点です。危険な指示に従いすぎるのも問題ですが、ユーザーが少し弱音を吐いただけで免責事項や相談窓口の連絡先を突きつけて対話を拒むようでは、かえって利用者を傷つけてしまいます。

採択されたプロジェクトが生み出す評価ベンチマークは、すべてオープンソースとして一般公開され、業界全体で利用できるようになります。

なぜ重要か

一般ユーザーが今すぐ触って試せる新機能ではありませんが、AI を相談相手や話し相手として使っている人にとっては極めて身近な問題です。

現在、多くの人が生成 AI に感情的な支えを求めていますが、既存のモデルの対応は極端です。ユーザーの言うことに何でも同調してしまうおべっか使いになるか、少しでも危うい単語が出た瞬間に定型文で対話を遮断するかの二択になりがちでした。

テック企業のエンジニアだけで心の安全基準を決めるのを諦め、外部の臨床専門家を巻き込んでオープンな共通テストを作ろうとする姿勢は、賢明な判断だと評価できます。

一方で懸念もあります。心理学や臨床の現場でも意見が分かれる繊細な問題を、AI のスコアリングシステムに落とし込もうとすると、柔軟性を欠いた画一的なルールに縛られるリスクが常につきまといます。

それでも、モデルが人間に近づくにつれて、安全性の焦点が単なる不適切表現の排除から、ユーザーの心への影響へと移りつつあることを示す重要な一歩と言えます。