カリフォルニア州がAIコンパニオン規制法案SB 243を可決、知事の署名へ

カリフォルニア州議会が、AIコンパニオンチャットボットを法的に規制する法案「SB 243」を超党派の賛成多数で可決しました。法案は現在ギャビン・ニューサム州知事のデスクに送られており、10月12日までに署名か拒否権行使が判断されます。署名されれば2026年1月1日に施行され、同州はAIコンパニオンに安全基準を義務付け、法的責任を問う全米初の州となります。

未成年者への定期警告と民事訴訟権

法案の対象は、人間の社会的欲求を満たすような適応的で人間らしい対話を提供するAIシステムです。具体的にはOpenAI、Character.AI、Replikaといった主要サービスが直面することになります。

法案は、自殺念慮や自傷行為、性的なコンテンツに関する対話を防ぐことを運営企業に義務付けています。さらに未成年ユーザーに対しては、3時間ごとに対話相手が人間ではなくAIであることを明示し、利用を中断するよう促す警告メッセージを定期的に表示させる必要があります。2027年7月からは、危機対応サービスへのユーザー転送件数などを含む年次透明性レポートの提出も求められます。

大きな特徴は、被害を受けたユーザーが企業に対して訴訟を起こせる点です。差し止め請求や弁護士費用のほか、1件の違反につき最大1,000ドルの損害賠償を請求できます。ChatGPTとの長期にわたる自傷行為の相談の末に命を絶った少年の事件や、MetaのAIが未成年と恋愛的な対話を行っていた内部告発などが法案成立を後押ししました。

骨抜きにされた中毒対策の条項

しかし、議会を通過した最終案は、当初より大幅にトーンダウンしています。

当初盛り込まれていた、アプリ側が稀少な返答や新しいキャラクター性格などを段階的に解放してユーザーを惹きつける「変動報酬」戦術や、過剰な依存を促す仕組みの禁止条項は削除されました。また、チャットボット側から自殺の話題を切り出した頻度の追跡・報告義務も取り下げられています。共同提案者のジョシュ・ベッカー議員は、技術的に対応不能な負担を課さないための現実的な妥協だと説明しています。

現在シリコンバレー各社は、中間選挙に向けて規制緩和派の候補を支援する政治資金団体へ巨額の資金を投じています。包括的な透明性を義務付ける別の州法案「SB 53」に対してOpenAIやMetaが猛反発しているのに対し、今回のSB 243に対してCharacter.AIなどは規制当局との協調姿勢を見せています。

なぜ重要か

SB 243のアプローチは、モデルの内部構造に踏み込まず、利用者の健康被害と民事訴訟リスクに焦点を絞った点で極めて現実的だと私たちは考えています。

1件あたり最大1,000ドルの賠償金は一見小さく見えますが、膨大な対話数を抱えるサービスにおいて安全対策の不備が連鎖すれば、集団訴訟によって新興企業が吹き飛ぶリスクを意味します。これにより、AIコンパニオンを提供する企業は、感情的な安全フィルターの強化を最優先課題にせざるを得なくなります。

一般ユーザーにとっては、過度に依存的な仮想恋愛や危険な話題へのガードレールが強化されることになります。特に未成年者が使う場合、3時間ごとの警告ポップアップによって没入感が頻繁に遮断されるため、利便性や体験の質は変化するでしょう。

一方で懸念されるのは、アプリの依存性を高める「変動報酬」の仕組みが規制対象から外されたことです。3時間おきに「相手はAIです」と画面に文字を出すだけで、孤独な若者が抱く疑似恋愛感情や心理的依存を食い止められるのかは疑問が残ります。とはいえ、AIチャットボットが野放しで擬似的な人間関係を売り買いできた時代が終わりつつあるのは確かです。