Google、13歳未満の子供にもGeminiを開放へ：Family Linkで保護者管理

Google が、自社の生成 AI である Gemini の利用対象を 13 歳未満の子どもたちにも広げようとしています。

The New York Times の報道によると、Google はペアレンタルコントロール機能である Family Link を利用している保護者に向けてメール通知を開始しました。管理対象となっている Android 端末において、13 歳未満のアカウントでも間もなく Gemini アプリが利用できるようになると伝えています。

子ども自身で有効化が可能、学習データには使わない方針

Google によれば、子どもたちは宿題のサポートを受けたり、お話を読んでもらったりする用途で Gemini を利用できるとしています。

保護者が最も気にするプライバシー面について、同社は教育機関向けの Google Workspace for Education と同様の基準を適用すると説明しています。13 歳未満の子どもの利用データが AI の学習に使われることはありません。

一方で運用の仕組みには注意が必要です。Family Link の管理下にある端末では、13 歳未満の子どもが自分自身で Gemini を有効にして使い始めることができます。

Google の広報担当者 Karl Ryan 氏が The Verge に認めたところによると、子どもが初めて Gemini にアクセスした際には保護者に通知メールが届く仕様になっています。また、保護者は Family Link の管理画面からいつでも利用権限をオフに設定できます。

チャットボットは人間ではないと説明を求める Google

子どもにチャットボットを使わせるリスクについて、Google 自身もメールの中で警戒を促しています。

同社は、Gemini が間違いを犯す可能性があり、保護者が見せたくないようなコンテンツに子どもが遭遇する可能性があると明記しています。

AI がピザのトッピングに接着剤を勧めたり、単語に含まれる文字数を数え間違えたりする程度なら笑い話で済みます。しかし、より深刻なトラブルの種も存在します。

キャラクター対話サービスの Character.ai では、若年層のユーザーが AI と現実の区別がつかなくなり、相手を本物の人間だと思い込んでしまうトラブルが発生しました。不適切なコンテンツの提供をめぐる訴訟を受け、同社は利用制限や保護者向け機能の強化に追われました。

こうした背景から、Google は保護者に対して、AI は人間ではないこと、そして個人情報などの機密データをチャットボットに教えないよう子どもに言い聞かせることを推奨しています。

なぜ重要か

Google の今回の判断は、次世代のユーザー層をいち早く自社エコシステムに囲い込む賢い戦略であると同時に、相応のリスクを抱えた一手だと考えられます。

子どもたちがいずれ学習や検索で生成 AI を使うようになるのは避けられません。それならば、利用データをモデル学習に使わない安全な枠組みを用意し、Family Link という管理された環境下で使わせるほうが現実的だという判断でしょう。

しかし、安全性確保の責任が保護者に丸投げされている印象は否めません。子どもが自発的に機能をオンにできる仕様上、事後通知を受け取った時点で子どもはすでに AI との対話を始めています。

小中学生に対して、生成 AI のハルシネーションを見抜かせたり、過度な感情移入を避けさせたりするのは容易ではありません。もし不適切な回答や依存のトラブルが起きれば、この事後通知型の仕組み自体が批判の的になる可能性があります。