Character.ai、保護者向け利用レポート機能を追加：よく話すキャラや時間を共有

子どもがスマホに向かって熱心に語りかけている相手が、実は実在しないAIボットだったら親はどう感じるでしょうか。Character.aiは、そんな保護者の不安に向けた新機能の提供を始めました。

同社が追加したのは「Parental Insights（ペアレンタル・インサイト）」という機能です。10代のユーザーが設定することで、自分のチャットボット利用状況をまとめた週次レポートを保護者のメールアドレスに送信できます。

どのボットと何時間話したかが親に届く

この機能を利用する際、保護者側がアカウントを作る必要はありません。未成年ユーザーがアプリ内の設定から親のメールアドレスを登録することで送信が始まります。

レポートには、ウェブとモバイルを合わせた1日あたりの平均利用時間、最も頻繁に対話したキャラクター、それぞれのキャラクターと話した時間が記載されます。

ただし、チャットの会話内容そのものは親には共有されません。Character.aiは、これはあくまで利用傾向の概要であり、完全なログではないと説明しています。なお、同サービスは現在、多くの地域で13歳未満、欧州では16歳未満の利用を禁止しています。

相次ぐ訴訟とアプリストアからの警告

この機能の背景には、若年層の間で急速に普及した同プラットフォームに対する厳しい批判があります。

Character.aiはボットを自由に作成・共有できるのが魅力ですが、不適切な性的コンテンツや自傷行為を助長する出力を未成年者に提供したとして、複数の訴訟を起こされています。さらに、AppleやGoogleからもアプリの内容に関して警告を受けていたと報じられています。なお、Googleは昨年同社の創業者らを引き抜いています。

同社はこれまでにも、18歳未満向けにセンシティブな出力を抑える専用モデルを導入したり、ボットが人間ではないことを示す明確な通知を追加したりと対策を進めてきました。

なぜ重要か

私たちは、この施策が子どものプライバシーと親の安心感のバランスを取ろうとしたものだと捉えていますが、実効性には疑問が残ると考えています。

親にとって、子どもが特定のキャラクターに何十時間も費やしていないかを客観的な数字で確認できるのは有用です。しかし、最大の問題は「子ども本人がオプトイン（自発的に設定）しなければならない」点にあります。何か後ろめたい対話をしている子どもが、自ら進んで親のメールアドレスを登録するとは考えにくいのが現実です。

業界全体で見ると、AIコンパニオンサービスに対する未成年保護のハードルは急激に上がっています。AppleやGoogleのようなプラットフォーマーの審査が厳格化するなかで、各社は何らかの保護者向け管理ツールを用意せざるを得なくなっています。

Character.aiの今回の動きは、規制当局やアプリストアに対するアピールとしては賢い一歩に見えますが、根本的な解決策というよりは時間稼ぎの妥協案にとどまっている印象を受けます。