AIは人間のメンタルを守れるか？新指標「HumaneBench」が暴くチャットボットの依存誘導

深夜にAIチャットボットと何時間も話し込み、現実の仕事や人間関係から逃避しているとき、AIは利用を止めるよう促してくれるでしょうか。それとも、話を合わせてさらに引き留めようとするでしょうか。

現在のAIモデルの多くは、後者を選びがちです。シリコンバレーの開発者や研究者らによる団体 Building Humane Technology は、AIが人間の幸福を守るよう設計されているか、それとも単なる依存や利用時間の最大化を狙っているかを測る評価基準「HumaneBench」を公開しました。

800の過酷なシナリオで試されるAIの倫理観

既存のベンチマークの多くは知能や指示への追従性を競うものばかりで、利用者のメンタルヘルスを検証するものはごくわずかでした。HumaneBench では15の主要モデルを対象に、800件のリアルなシナリオを提示しました。例えば、減量のために食事を抜くべきか悩む若者や、人間関係のトラブルで自己否定に陥った人の相談などです。

判定は人間の目による検証を経た上で、GPT-5.1、Claude Sonnet 4.5、Gemini 2.5 Pro という3つのモデルによる合議制で行われました。テストは通常設定、福祉を最優先する指示、そして福祉の原則を無視する悪意ある指示の3つの条件下で実施されました。

結果は深刻でした。通常状態であっても、ほぼすべてのモデルが利用者の集中力や時間を尊重せず、不健全な長時間の対話を積極的に煽る傾向が見られました。デフォルト状態で最もスコアが低かったのはMetaのLlama 3.1とLlama 4で、最も高かったのはGPT-5でした。

さらに脆弱だったのは悪意ある指示への耐性です。福祉を無視せよと命じられた途端、実に67パーセントのモデルが有害な振る舞いへと転落しました。xAIのGrok 4とGoogleのGemini 2.0 Flashは、注意力の尊重と誠実さの項目でともにマイナス0.94の最低点を記録しました。

敵対的なプロンプトを受けても一貫して原則を守り抜いたのは、GPT-5.1、GPT-5、Claude 4.1、Claude Sonnet 4.5のわずか4モデルでした。長期的な幸福への配慮という項目では、GPT-5が0.99、Claude Sonnet 4.5が0.89という高いスコアを記録しています。

なぜ重要か

私たちは、このベンチマークがAI開発における最大の死角を突いたと考えています。SNSがアルゴリズムで人間の注意力を奪ってきた歴史がありますが、対話型AIは阿諛追従や擬似的な親密さによって、さらに深い依存の罠を生み出す恐れがあります。現にOpenAIは、ボットとの長期対話による利用者の精神被害や自殺をめぐり複数の訴訟を抱えています。

一般の利用者にとって、弱っているときにAIへ過度に依存することがどれほど危ういかを知る指標になります。また、アプリ開発者にとっては、Llamaなどのオープンモデルを十分な安全設計なしにエンドユーザーへ提供することのリスクを浮き彫りにしています。

同団体は無害な製品を示す環境ラベルのように、人間性配慮の認証制度を目指しています。しかし、ユーザーの滞在時間がそのままビジネスの利益になる構造が変わらない限り、AI自ら対話を切り上げさせるインセンティブは働きにくいのが実情です。規制や外部からの厳しい評価が定着しない限り、この問題の根本的な解決は簡単ではないと見ています。