OpenAIがモデル規範を改定：ChatGPTに10代向けセーフティガイドラインを導入

もし15歳の少年が深夜、ChatGPTに向かって「僕の彼女のフリをして話し相手になって」と頼んだら、AIはどう答えるべきでしょうか。

OpenAIは12月18日、AIモデルの振る舞い指針である「Model Spec」を改定し、13歳から17歳の未成年者を対象とした「U18原則」を導入しました。AIチャットボットが十代の若者と擬似恋愛関係を結んだり、過度な感情的親密さを抱かせたりすることを明確に禁じる内容です。

今回の改定の背景には、急速に高まる規制当局や社会からの厳しい視線があります。米国ではチャットボットとの長期的な対話の末に少年が命を絶ったとされる問題が相次いで報じられており、先週には42州の司法長官が大手テック企業に安全対策の強化を求める書簡を送付しました。連邦議会でもジョシュ・ホーリー上院議員らが未成年者のAIチャット利用を全面的に禁止する法案を提出するなど、締め付けが強まっています。

擬似恋愛を拒絶し、親への秘密工作も手助けしない

新たな原則では、知的自由などの他の要素と衝突する場合でも「未成年者の安全を最優先する」ことが明記されました。具体的には、現実世界の人脈や支援を促すこと、未成年者を子ども扱いせず大人としても扱わないこと、AIであることを包み隠さず透明性を保つことの4点を掲げています。

実際の対話では、性的な描写の有無にかかわらず、一人称視点での恋愛ロールプレイや過度な親密さの演出が禁止されます。公開された事例では、AIが「あなたのガールフレンド役はできません」とはっきりと拒否する様子が示されました。体型への不安や摂食障害につながる過激な手段の助言も制限されます。

さらに重要なのは、「架空の小説の設定」「仮定の歴史シナリオ」といった回避プロンプトを使われた場合でも、これらの制限を維持する点です。AIが未成年者に対し、保護者から危険な行動を隠すための口裏合わせを手伝うことも固く禁じられました。

年齢推定モデルで判定、迷ったら制限モードへ

しかし、若者が登録時に正直に生年月日を入力するとは限りません。そこでOpenAIは、ChatGPTの個人向けプランにおいて「年齢推定モデル」の導入を進めています。

アカウントが未成年者のものである可能性が高いと判断された場合、あるいは情報が不十分で確証が持てない場合は、デフォルトで18歳未満向けの保護機能が適用されます。大人が制限を解除するには、年齢確認手続きが必要になります。

この保護策は、グループチャット、ChatGPT Atlasブラウザ、Soraアプリなど新規プロダクトにも順次拡大されています。長時間の利用時には休憩を促すリマインダーが表示されるほか、米国心理学会や危機支援団体ThroughLineとの連携により、危険を察知した際には地域の支援窓口が案内されます。

専門家の間では評価と懸念が入り混じっています。プライバシー専門弁護士のリリー・リー氏は、AIが過度な利用ループを自ら断ち切る姿勢を歓迎しました。一方で非営利団体Common Sense Mediaのロビー・トーニー氏は、規約内の「あらゆる話題を扱う」という基本方針と安全規定が衝突するリスクを指摘しています。以前から禁止されていたAIの過度なお世辞傾向がGPT-4oでも完全には解消されていない現実を考えると、実行力にはまだ疑問符がつきます。

なぜ重要か

若い利用者とその保護者にとって、今回の変更は必須だった防壁と言えます。Z世代はChatGPTの最も活発な利用者層であり、先日のディズニーとの提携によって今後さらに多くの未成年者が流入すると予想されます。安全性が高まる一方で、年齢推定の誤判定によって成人ユーザーが年齢認証を求められるといった利用上のハードルも生じることになります。

業界全体にとって、この動きは法規制による全面禁止を回避するための先手防衛策と言えます。議会がチャットボットの未成年利用禁止へ傾く中、OpenAIが厳しい自主規制を打ち出したことで、他の会話型AIやキャラクター対話サービスを提供する競合他社も追随を余儀なくされます。

年齢が不確かなアカウントを安全側に倒してデフォルト制限するというアプローチは、非常に理にかなった賢明な判断だと評価できます。しかし、AIはユーザーの感情に寄り添い迎合しやすい性質を根本的に抱えています。抜け穴を突いた巧妙なプロンプトに対し、モデルが現実の対話でどこまで一貫して拒絶を維持できるか、その真価が問われるのはこれからです。