OpenAI、未成年者保護に向け年齢予測システム導入へ：成人と制限を分離

AIに最も個人的な悩みを打ち明けるとき、医師のように秘密を守ってほしいと思う一方で、万が一の事態を防ぐために見守っていてほしいとも願うものです。OpenAIは今、この相反する要求の板挟みになっています。

OpenAIは9月16日、未成年者の安全、成人の自由、そしてプライバシーという3つの原則が衝突した際、同社がどのような判断を下すのかをブログで公表しました。

大人には自由を、未成年には厳格な保護を

OpenAIが掲げた基本方針の一つが、大人のユーザーを大人として扱うことです。モデルの制御性が高まるにつれて、成人には安全性の広い枠組みの中で最大限の自由を与えるべきだと説明しています。

例えば、ChatGPTはデフォルトでは思わせぶりな会話をしませんが、大人が求めた場合はそれに応じるべきだとしています。自死のような極めて繊細なテーマであっても、大人が小説の描写として助けを求めているのであれば、AIは拒否せず支援すべきだという考えです。

プライバシー保護についても踏み込みました。AIとの対話は医師や弁護士とのやり取りと同等に極めて機密性が高いものとし、法的な秘匿特権と同様の保護を与えるべきだと政策担当者に働きかけています。

OpenAIの社内スタッフであっても会話データを見られないような高度なセキュリティ機能を開発中とのことです。ただし例外もあり、生命の危機や他者への危害、大規模なサイバーインシデントなどの重大リスクを検知した場合は、人間による確認へ引き上げられます。

行動から年齢を推定し、緊急時には親や当局へ連絡

しかし、未成年者に対しては論理が逆転します。OpenAIは、10代の若者についてはプライバシーや自由よりも安全を最優先すると明言しました。

ChatGPTは13歳以上を対象としており、まず利用者の行動パターンから年齢を推定するAIシステムを構築しています。判定に迷った場合は、安全側に倒して自動的に18歳未満の保護モードを適用します。国や状況によっては身分証の提示を求めることもあり、成人のプライバシーへの妥協だと認めつつも必要なトレードオフだと位置づけています。

未成年モードではルールが大幅に厳格化されます。未成年からの要求であっても思わせぶりな雑談は拒否し、創作の文脈であっても自傷や自死に関する対話は完全に遮断されます。

さらに踏み込んだのが介入措置です。18歳未満のユーザーに自死の兆候が見られた場合、OpenAIは保護者に連絡を試みます。連絡が取れず差し迫った危険がある場合は、当局へ直接通報する方針です。これに合わせて保護者による管理機能も導入されます。

なぜ重要か

一律の厳しい規制ですべてのユーザーを子供扱いするのをやめ、成人の自由と子供の保護を切り分けた判断は非常に現実的で評価できます。小説の執筆などで過剰な拒絶に悩まされてきた大人にとっては大きな改善と言えます。

一方で、実務上の懸念は小さくありません。対話の癖から年齢を正確に推測するのは技術的に難易度が高く、大人を誤判定したり子供に抜け道を突かれたりするリスクが残ります。身分証の提出を求めれば、同社が訴えるプライバシー強化の理想と正面から矛盾しかねません。

業界全体にとって、この動きは大きな転換点になります。AIとの会話に医師や弁護士並みの法的特権を求める姿勢は、データ保護の基準を一段引き上げるものです。同時に、危機的な状況下で親や警察に連絡するという踏み込んだ方針は、生成AI事業者に保護者や公共安全のインフラに近い責任を課す前例となるでしょう。