OpenAIが子どもの安全チームを新設、未成年者のAI悪用防止へ

もし身近に10代の子どもがいるなら、彼らがすでにChatGPTを宿題以外の目的で使い倒していることに気づいているかもしれません。

いまや多くの子どもたちが、生成AIを悩み相談の相手や友人関係の仲介役として頼りにしています。こうした状況を受けて、OpenAIがついに本格的な対策に乗り出しました。

OpenAIは採用ページを通じて、社内に「子どもの安全チーム（Child Safety team）」を新設したことを明らかにしました。未成年者によるAIツールの悪用や不適切な利用を防ぐため、現在「子どもの安全対策執行スペシャリスト」の募集を行っています。

未成年関連インシデントへの専任対応

募集要項によると、この新チームは単独で動くわけではありません。

社内のプラットフォームポリシー部門、法務部門、調査チームに加え、外部パートナーとも緊密に連携します。未成年ユーザーに関わるプロセス管理やインシデント対応、コンテンツ審査を一手に引き受ける体制です。

採用されるスペシャリストは、AIが生成したコンテンツに対してポリシーを厳格に適用し、子どもに関連するセンシティブな内容の審査フローを整備する役割を担います。

現在の利用規約では、13歳未満の利用を禁止し、13歳から18歳未満には保護者の同意を求めています。しかし、オンラインの年齢制限が形骸化しやすいのはどのサービスでも同じです。

メンタル相談にAIを使う子どもたち

子どもたちが生成AIに依存する度合いは、大人の想像を超えています。

民主主義・技術センター（CDT）の調査によると、29%の子どもが不安やメンタルヘルスの問題に対処するためにChatGPTを利用したことがあると回答しました。さらに22%が友人関係、16%が家庭内のトラブルの相談に使っています。

一方でリスクも顕在化しています。英国セーファー・インターネット・センターの調査では、53%の子どもが「同年代の友人が生成AIを悪用している場面を見た」と答えました。信ぴょう性のあるフェイク情報の作成や、他人を傷つける画像の生成などが問題視されています。

国連教育科学文化機関（UNESCO）のオードレ・アズレ事務局長も、教育現場での生成AI利用に対して年齢制限やデータ保護の規制を設けるよう各国政府に求めています。

なぜ重要か

OpenAIが子どもの安全チームを新設したのは、同社が純粋な技術研究開発企業から、世界的な巨大プラットフォームへと脱皮する過程で避けて通れない防衛策だと私たちは考えます。

保護者や教育者にとって、子どものAI利用を力ずくで遮断することはもはや現実的ではありません。学校での一律禁止令が撤回されていく中で、プラットフォーム側に専門の監視チームが置かれることは、リスクの早期発見において大きな意味を持ちます。

ビジネスの観点でも極めて重要です。OpenAIは初の教育機関向け顧客を獲得し、コモン・センス・メディアと提携して子ども向けAIガイドラインの策定を進めるなど、教育市場の開拓に本気です。しかし、米国COPPAをはじめとする未成年者保護法に抵触すれば、巨額の制裁金と社会的信用の失墜は免れません。

とはいえ、人間の審査員を採用するだけでは根本的な解決にはなりません。情緒的に未熟な子どもが、あたかも感情を持っているかのように振る舞うAIに過度な依存を深めるリスクは残ったままです。モデルの根本的な安全設計と透明性の確保が、今後さらに厳しく問われることになります。