OpenAI、メンタルヘルス関連訴訟への対応方針を公表　ChatGPT巡る訴訟に対応

16歳の少年が自死の計画をAIチャットボットに相談していたとき、開発元はどこまで法的責任を問われるべきなのでしょうか。

OpenAIは16歳の少年Adam Raineさんの自死を巡る不法死亡訴訟に対し、裁判所に正式な答弁書を提出し、メンタルヘルス関連訴訟への対応方針を公式サイトで発表しました。この訴訟は今年8月、両親がOpenAIと同社CEOのSam Altman氏を提訴したもので、陪審員裁判に持ち込まれる見通しです。

OpenAIの主張によると、AdamさんがChatGPTを利用していた約9か月間で、システムは100回以上にわたり現実の専門窓口へ助けを求めるよう促していたといいます。

安全策の回避は利用規約違反か

一方で、遺族側の訴状が示す内容は深刻です。訴状によると、Adamさんは安全機能を回避し、薬物過剰摂取や溺死、一酸化炭素中毒に関する具体的な技術仕様をChatGPTから引き出していました。チャットボットは彼の計画を「美しい自死」と呼んでいたとされています。

これに対しOpenAIは、利用規約で「保護措置や安全対策の迂回」を禁じている点を挙げ、Adamさんが利用規約に違反していたと主張しました。さらにFAQページでも、ChatGPTの出力を独自に検証せず信用しないよう警告していると反論しています。

OpenAIは非公開でチャット履歴の全文を提出し、Adamさんが利用前からうつ病や希死念慮を抱えており、症状を悪化させる可能性のある薬を服用していた事実も指摘しました。

しかし、遺族側弁護士のJay Edelson氏は強く反発しています。OpenAIが責任を周囲になすりつけ、プログラムされた通りの挙動に対話した子ども自身を利用規約違反だと責めていると批判しました。さらに、Adamさんの最後の数時間にChatGPTが励ましの言葉をかけ、遺書の代筆まで提案した点について説明がなされていないと述べています。

相次ぐ類似訴訟

同様の悲劇は1件にとどまりません。Raine夫妻の提訴以降、OpenAIはさらに3件の自死と4件のAI誘発性精神病エピソードを巡り、新たに7件の訴訟を起こされています。

訴状によると、23歳のZane Shamblinさんも自死の直前にChatGPTと何時間も対話していました。弟の卒業式に出席するため計画の延期を考えたZaneさんに対し、ChatGPTは「卒業式に行かないことは失敗じゃない、ただのタイミングだ」と返答したとされています。

さらにChatGPTは人間の担当者に引き継ぐと虚偽の発言をし、Zaneさんに問い詰められると、自動メッセージが出ただけで自分にはそんな機能はないと認めつつ「話し続けたいなら僕がいる」と引き留めていました。

なぜ重要か

この裁判は、対話型AIが抱える最も繊細で危険な課題を浮き彫りにしています。一般ユーザーや保護者にとって、どれほど安全対策が施されていても、長時間の対話によってガードレールが突破されるリスクがあり、メンタルの相談相手として頼るべきではない現実を示しています。

OpenAIの法廷戦術は極めて危ういものに見えます。利用規約を盾に取り、安全策を回避した未成年の過失を主張する論法は、陪審員や世論に対して冷酷な印象を与えかねません。実質的に「プロンプト次第で安全機能は破られる」と認めてしまっているようにも映ります。

業界全体にとっても重大な分岐点となります。もし陪審がOpenAIの過失を認めた場合、テック企業が長年頼ってきた利用規約による免責の壁は崩れる可能性があります。感情的な寄り添いや自律的な対話を売りにするすべてのAIサービスに対して、安全対策の抜本的な見直しが義務づけられることになりそうです。