OpenAI、メンタルヘルスを助言する「福祉とAI専門家委員会」を設立

多くの若者が ChatGPT を悩みの相談相手にし、生成 AI に感情を預け始めるなか、テキストのフィルタリングだけで安全を守るのは限界に来ています。

OpenAI は、ChatGPT や Sora の健全な利用環境を模索するための専門組織「Expert Council on Well-Being and AI（ウェルビーイングと AI に関する専門家委員会）」を立ち上げました。心理学や精神医学、ヒューマンコンピュータインタラクション（HCI）の研究者を招き、AI が人間の感情やメンタルヘルスに与える影響を検証していく狙いです。

臨床と児童発達の専門家 6 人が参画

今回発表された初期メンバーは、子どもの発達やデジタルウェルビーイングの研究に長年携わってきた 6 人のエキスパートです。

メンバーには、ハーバード・メディカル・スクール助教でボストン小児病院の David Bickham 氏や、everyone.AI のチーフサイエンティフィックオフィサーを務める Mathilde Cerioli 氏、ジョージア工科大学の Munmun De Choudhury 氏が名を連ねています。

さらに、うつ病や不安症へのデジタル介入を研究するノースウェスタン大学の David Mohr 氏、Arcade Therapeutics 共同創業者の Tracy Dennis-Tiwary 氏、小児科医出身で公衆衛生の重鎮である Robert K. Ross 氏も加わりました。先週には OpenAI 本社で対面セッションが行われ、製品開発チームとの顔合わせを済ませたとのことです。

保護者通知の文面まで細かく見直し

この取り組みは机上の空論ではなく、すでに実際の機能に反映され始めています。

OpenAI によると、保護者向け機能の開発段階ですでに一部の専門家に意見を求めており、未成年が精神的危機にあると判定された際に保護者へ送る通知メッセージのトーンを共同で調整しました。若者のプライバシーを尊重しつつ、保護者にも寄り添う表現を追求したといいます。

同社はさらに、精神科医や小児科医で構成される「Global Physician Network（グローバル医師ネットワーク）」とも連携し、ChatGPT がデリケートな相談に対して臨床上適切に応答できるかをテストしています。ただし、最終的な製品決定の権限と責任はあくまで OpenAI 側にあると明記されています。

なぜ重要か

日常的に ChatGPT を使うユーザー、とりわけ未成年の子どもを持つ家庭にとって、AI との接し方はすでに現実の教育・育児課題です。AI に本音を打ち明ける子どもが増えるなか、児童心理の専門家が警告文や応答トーンの設計に関わっている事実は、一定の安心感につながります。

業界全体から見れば、これはかつてソーシャルメディア企業が経験した「若者のメンタルヘルス悪化を放置した」という批判の先回りと言えます。規制当局や世論から責任を追及される前に、著名な研究機関や医師を巻き込んで安全基準を共同策定する防衛策でもあります。

エンジニアの思い込みに頼らず、臨床経験者を入れて言葉のニュアンスまで調整するアプローチは賢明だと評価できます。一方で、この委員会はあくまで助言機関にすぎません。利用者の滞在時間や利用頻度といったエンゲージメント指標と、精神的ウェルビーイングが相反したとき、OpenAI がどこまで専門家の苦言を受け入れられるかが今後の焦点になりそうです。