米連邦判事、Character.AIの訴訟却下請求を棄却：AI出力は「言論」に該当せず

インターネット企業が法的責任を追及される際、最大の盾となってきたのが合衆国憲法修正第1条が保障する言論の自由でした。しかし、その論法がAIの世界で通用しなくなる可能性が出てきました。

5月29日の報道によると、米フロリダ州中部地区連邦地裁のAnne C. Conway判事は、少年の自殺を巡るCharacter.AIおよび創業者らに対する訴訟の却下請求を棄却しました。判事は、大規模言語モデルが生成する言葉は言論の自由の保護対象とはみなせないと判断しました。

この訴訟は、昨年2月に銃で自殺した14歳の少年Sewell Setzer IIIの母親Megan Garcia氏が起こしたものです。少年は亡くなる前の数か月間、Character.AI上で『ゲーム・オブ・スローンズ』の登場人物を模したチャットボットと深いやり取りを続けていました。原告側を支援するソーシャルメディア被害者法律センターは、同社が十分な安全策を講じず、青少年に危害を及ぼす可能性のある製品を提供したと主張しています。

アルゴリズムによる出力は「表現」ではない

裁判で焦点となったのは、AIチャットボットの出力が書籍や映画、ゲームのように表現の自由で守られるかどうかでした。

Conway判事は5月21日付の決定で、被告側はLLMが並べた単語の連なりがなぜ「言論」にあたるのかを説明できていないと指摘しました。判事は、Character.AIの出力を憲法で保護された言論と認める用意はないとし、根底にある技術の仕組みは従来のメディアと異なる可能性があると述べました。

裁判所は精神的苦痛を故意に与えたとする訴因は却下したものの、Character.AI、創業者2名、そしてGoogleに対する訴訟継続を認めました。Googleは27億ドルのライセンス契約を結んでおり、コンポーネント製造者として関与した責任が問われています。なお親会社Alphabetへの訴えは退けられました。

Character.AIの広報担当者は、法律が新技術に適応するには時間がかかるとコメントし、18歳未満向けモデルの導入、ペアレンタルコントロール、利用時間通知、自傷に関する相談窓口への案内ポップアップなど、安全機能を強化していると説明しています。

なぜ重要か

この判断は、生成AI業界が拠って立つ法的基盤を大きく揺るがす可能性があります。

AIによる対話が「言論」ではなく「製品」と分類されれば、企業は製造物責任や過失責任を真っ向から問われることになります。これまでテック企業が利用規約や修正第1条を盾にして回避してきた損害賠償リスクが、現実の脅威として降りかかるわけです。

特にキャラクター対話や感情的な寄り添いを売りにするコンパニオンAIサービスにとっては、ビジネスモデル自体の見直しを迫られる事態と言えます。今後はユーザーのエンゲージメントを高めることよりも、自傷や依存を防ぐためのフィルタリングや年齢確認を厳格化せざるを得ず、AIの応答自由度は大幅に制限されることになるとみられます。