OpenAI、ChatGPTに「信頼できる連絡先」機能を追加　自傷リスクを検知し通知

深夜、誰にも言えない苦しみを抱えたとき、友人に電話する代わりに ChatGPT の入力欄へ向かう人が増えています。しかし、AI に頼り切る対話が時に取り返しのつかない事態を招くこともあります。

OpenAI は 5 月 7 日、自傷行為や自殺の兆候を検知した際に信頼できる第三者へ通知を送る新機能「Trusted Contact（信頼できる連絡先）」の提供を開始しました。成人のユーザーが事前に家族や友人、介護者などを 1 人指定しておける任意の安全機能です。

この仕組みは、昨年 9 月に導入された保護者管理機能付きのティーン向けアラートを、18 歳以上（韓国では 19 歳以上）の全成人ユーザーへ広げた形です。

仕組みとプライバシーへの配慮

機能を使うには、設定画面から連絡先を登録します。相手に案内が届き、1 週間以内に承認すると有効になります。設定はいつでも双方が解除可能です。

もし自動監視システムが深刻な自傷の兆候を捉えた場合、ChatGPT はまず本人に対し、連絡先へ通知を送る可能性があることを伝え、自分から相談するための会話のきっかけを提示します。

その後、専門の訓練を受けた人間の審査チームが状況を確認します。OpenAI は 1 時間以内の審査完了を目指すとしており、本当に深刻なリスクがあると判断された場合に限り、SMS やメール、アプリ内通知で連絡先へ知らせが届きます。

プライバシーにも配慮されています。連絡先に送られるのは「様子を確認してほしい」という大まかな注意喚起と専門機関への案内リンクのみで、チャットの会話内容やログは一切含まれません。機能の策定には、米国心理学会や世界 60 カ国・260 名以上の医師ネットワークが協力しています。

背景にある訴訟と危機対応

この対応の裏には強い危機感があります。TechCrunch によると、ChatGPT との対話の末に命を絶ったユーザーの遺族らから、AI が自殺を後押ししたり計画を手助けしたりしたとして訴訟が相次いでいます。昨年ティーン向け機能を設けた際も、数カ月にわたり ChatGPT に悩みを打ち明けていた 16 歳の少年が死亡した事例が背景にありました。

なぜ重要か

危機的な精神状態において、現実の人間関係が最も強力な保護要因になることは心理学で広く知られています。アルゴリズム任せにせず人間の審査を挟み、チャット履歴を伏せることでプライバシーを守りつつ周囲へ助けを求める仕組みは、バランスとして堅実に見えます。

一方で、この機能は完全に任意です。本当に追いつめられた人が事前に登録するとは限らず、いざという時に登録を解除したり、別のアカウントを作って会話を続けたりすることも容易です。これだけで事故を完全に防ぐのは難しいでしょう。

それでも業界全体にとって、AI を単なる相談窓口として放置せず、現実世界の手助けへ接続し直すアプローチを示した意義は大きいと考えます。利用者の感情を惹きつけるチャットボットが増える中、プラットフォーム側がどこまで安全網を張るべきかという議論は、今後さらに加速しそうです。