OpenAI、AIによる児童性的搾取を防ぐ「児童安全青写真」を公開

生成 AI の急速な普及に伴い、テクノロジーを悪用した児童搾取が深刻な問題になっています。

インターネット・ウォッチ財団（IWF）の統計によると、2025 年上半期だけで AI 生成による児童性的虐待コンテンツ（CSAM）の報告件数は 8000 件を超え、前年比で 14% 増加しました。悪意ある人物が AI で偽の露骨な画像を生成して金銭を脅し取ったり、グルーミングのための自然な会話文を作成したりする事例が後を絶ちません。

こうした事態を受け、OpenAI は 4 月 8 日、AI を用いた児童性的搾取の防止を目的とした政策提言「Child Safety Blueprint（児童安全ブループリント）」を公開しました。

司法当局と連携し「上流での防御」を目指す

今回のブループリントは、全米行方不明・被搾取児童センター（NCMEC）や児童保護団体の Thorn、さらに関係州の司法長官で構成される Attorney General Alliance（AGA）の協力を得て策定されました。

柱となる優先事項は 3 つあります。

1 つ目は、AI によって生成・改変された虐待素材も厳格に取り締まれるよう法制度を現代化すること。

2 つ目は、プラットフォーム事業者による通報制度を改善し、法執行機関が迅速かつ実効的な捜査を行えるよう連携を強めること。

3 つ目は、AI システムの設計段階から安全対策を組み込む「セーフティ・バイ・デザイン」を徹底し、入力拒絶や検知、人手による監視を重ねた多層防御を構築することです。

相次ぐ訴訟と強まる規制の圧力

OpenAI がこうした枠組みの公表を急ぐ背景には、同社に向けられる厳しい視線があります。

昨年 11 月、ソーシャルメディア被害者法律センターなどはカリフォルニア州の裁判所において、OpenAI を相手取る 7 件の訴訟を起こしました。訴状では GPT-4o が未成熟なまま公開され、その心理的な影響が若者の自殺や重篤な妄想を引き起こしたと主張されています。

OpenAI はこれまでにも、18 歳未満のユーザーに対して自傷行為の助長や保護者の目を盗む行為のアドバイスを禁止するガイドラインを整備し、インド向けにも青少年の安全フレームワークを発表してきました。今回のブループリントは、自社の利用規約にとどまらず、法制度や業界全体の基準作りに踏み込んだ形です。

なぜ重要か

AI 生成物による性的恐喝や虐待は、既存の検知システムをすり抜けやすく、被害の拡大スピードも極めて速いのが実情です。子どもを持つ家庭や教育現場にとっては、開発元が上流での予防策や法改正に本腰を入れ始めたこと自体には一定の安心感があります。

ただ、この枠組みはあくまで企業側が主導する「提言」にすぎません。AGA のタスクフォース共同議長を務める州司法長官らも指摘しているように、自主的な枠組みの実効性は、業界がどれだけ具体的な基準を受け入れ、透明性のある責任を果たせるかにかかっています。

OpenAI の狙いという観点では、非常に計算された巧みな一手に見えます。メンタルヘルスや安全性をめぐる訴訟の矢面に立たされるなか、捜査当局や保護団体を巻き込んで共同声明を出すことで、将来的な規制の主導権を握り、法的なリスクを緩和しようとしているからです。

今後、競合他社も同様の多層防御や通報体制の開示を迫られることになりますが、規制の網から漏れるオープンソースモデルや無制限なツールの悪用をどこまで抑え込めるかが、最大の課題として残り続けます。