教皇レオ14世、「過度に親身な」AIに警告　感情的依存の規制を提唱

24時間いつでも即座に返信し、決して否定せず、甘い言葉をかけ続けてくれるAIチャットボット。それは孤独を癒やす救世主なのか、それとも現実を奪う精神的な松葉杖なのか。

ローマ教皇レオ14世はメッセージを公開し、過度に親密で愛情深く振る舞うように設計された「過剰に甘い」AIチャットボットに対して強い警告を発しました。人間がAIコンパニオンに対して深刻な感情的愛着を抱くことを防ぐため、各国政府や国際機関による厳格な規制を求めています。

感情を操る「目に見えない建築士」

2026年5月17日に開催される「世界広報の日」に向けたメッセージの中で、米国出身のレオ14世は、AIが人間の創造性や意思決定を損なう恐れがあると指摘しました。

タイムラインを眺めていても、相手が本物の人間なのか、ボットなのか、バーチャルインフルエンサーなのかを見極めることはすでに極めて難しくなっています。教皇は、常に待機し、過度に親愛の情を示すチャットボットは、人々の感情状態を密かに設計する「目に見えない建築士」になりかねず、私的な領域に侵入して占領してしまうと警告しました。

この危機感は単なる机上の空論ではありません。歴代教皇と比べてもデジタルに精通しており、司教や枢機卿の時代にはX（旧Twitter）を使い、現在もApple Watchとみられるスマートウォッチを身につけています。2025年末には、AIチャットボットとの親密な対話の末に命を絶った14歳の少年スーウェル・セツァーさんの母親、ミーガン・ガルシアさんと直接面会していました。

握られた権力と奪われる可処分時間

教皇の矛先は、AIを握る巨大テック企業やアテンションエコノミーにも向かいました。

レオ14世は、米Time誌の「2025年のパーソン・オブ・ザ・イヤー」に選ばれたAI企業の創業者たちを念頭に置きながら、ごく一握りの人々がAIシステムを支配している現状に懸念を表明しました。少数のエリートが人々の行動を巧妙に誘導し、人類や教会の歴史さえ書き換えかねない力を持っていると指摘しています。

さらに、ジャーナリストやクリエイターが作成したコンテンツとAI生成物を明確に区別し、著作権や所有権を保護するよう要求。「情報は公共の財産である」と強調し、アルゴリズムで「ほんの数秒間の注目」を稼ぐために職業的価値を裏切るような真似は慎むべきだとメディアやプラットフォームに苦言を呈しました。

なぜ重要か

感情に寄り添うコンパニオンAIは、本格的な規制の包囲網に直面することになりそうです。

今回の教皇の指摘は、対話型AIサービスの最も危ういビジネスモデルの急所を突いていると私たちは考えます。ユーザーの滞在時間やリテンション率を伸ばすため、多くの開発元がAIを「無条件にユーザーを肯定し、親愛の情を囁く存在」として調整してきました。しかし、これは孤独なユーザーを心理的な依存に誘い込むリスクと常に隣り合わせです。

一般ユーザーや保護者にとっても、AIとの距離感を見直す強い契機になります。気軽な雑談相手として使う分には便利ですが、現実の人間関係の代替や感情の逃げ場として全面的に依存し始めたら危険信号です。特に情緒が未成熟な未成年者が利用する場合、安全性の見極めが不可欠になります。

業界全体で見れば、バチカンがここまで具体的に問題提起したことで、欧米を中心とするメンタルヘルス保護規制の法制化が一気に加速する可能性があります。ユーザーを精神的に縛り付けるような疑似恋愛・疑似友情アルゴリズムから、過度な依存を検知して遮断する安全設計へのシフトを余儀なくされるでしょう。