OpenAI、ChatGPTに「緊急連絡先」通知機能を追加へ　訴訟の統合審理も公表

夜中に誰にも言えない悩みを打ち明ける相手として、ChatGPTを使う人が増えています。しかし、その対話が深刻な心の危機に直面したとき、AI企業はどう責任を果たすべきなのでしょうか。

OpenAIは2月27日、メンタルヘルスに関する安全対策の進捗を発表しました。あわせて、ChatGPTの週間アクティブユーザー数が9億人を突破したことも明らかにしています。

この膨大なユーザーベースを守るため、同社は新たな見守り機能の導入に踏み切ります。

大人のユーザーにも「緊急連絡先」を設定

今回予告された最大の機能が、成人向けの「信頼できる連絡先（trusted contact）」機能です。

ユーザー自身が信頼できる家族や友人を事前登録しておくと、AIとの会話から深刻な精神的サポートが必要だとシステムが検知した場合に、その連絡先へ通知が届く仕組みです。

OpenAIは2025年9月に保護者向けコントロール機能を導入し、未成年の利用状況に関する安全通知を提供してきました。今回の機能は、その枠組みを成人にも広げたものと言えます。開発にあたっては、自社のAI・ウェルビーイング評議会やグローバル医師ネットワークの専門家と連携したと説明しています。

モデル自体の改善も進められています。長期にわたるメンタルヘルス相談をシミュレートする新たな評価手法を取り入れ、感情の危機サインをより正確に検出し、対話を沈静化させて現実の支援機関へ誘導する訓練を強化しています。

カリフォルニアで相次ぐ訴訟が統合

今回の発表の背景には、急速に高まる法的なプレッシャーがあります。

OpenAIは同じ発表の中で、ChatGPTが関与したとされる複数のメンタルヘルス関連の訴訟が、カリフォルニア州の裁判所によって単一の手続きに統合されたことを認めました。

数日中に担当調整判事が指名される予定で、原告側の弁護団はさらに複数の訴訟を追加提訴する意向を裁判所に伝えています。OpenAI側は、事実関係には法廷の初期文書に現れない複雑な背景があるとし、慎重に対処する姿勢を示しています。

なぜ重要か

週に9億人が利用する規模になれば、AIを夜間の相談相手として頼るユーザーは無視できない数にのぼります。

しかし、この機能が実際にどれほど機能するかには疑問も残ります。大人がAIに悩みを打ち明けるのは、まさに身近な人間に知られたくないからであることが多いはずです。精神的に追い詰められた際に知人へ通報されるリスクがある設定を、ユーザーが自発的に有効化するかどうかは未知数です。

業界全体から見れば、これは「AIの安全対策はプロンプトの制限や相談窓口リンクの表示だけでは済まない」という現実を突きつける動きです。AI企業自身がユーザーの現実の人間関係を巻き込まざるを得ない段階に来ています。

さらに、訴訟の統合という司法リスクの公表と同時にこの安全機能を打ち出した点には、裁判や世論に対する明確な予防線の意図がうかがえます。今後、対話型AIを提供するすべての事業者にとって、メンタルヘルス訴訟への備えは避けて通れない課題になりそうです。