カリフォルニア州がAI規制18法案に署名：ディープフェイクや無断AI複製を禁止

カリフォルニア州のギャビン・ニューサム知事が、AIの破滅的リスクを防ぐと謳った話題の法案「SB 1047」に拒否権を行使したというニュースを見て、テック業界が規制を回避できたと受け取ったなら、それは早合点です。

知事は巨大AIを縛る包括的規制を見送った一方で、9月中に18本ものAI関連法案に署名し、次々と成立させました。SF映画のような終末論リスクではなく、著作権やディープフェイク、医療判断といった足元の具体的なトラブルを徹底的に包囲する構えです。

仮想の脅威を退け、足元のリスクを固める

ニューサム知事はSB 1047の拒否理由について、巨額の開発費がかかる大規模モデルだけに規制を絞ることは「誤った安心感を市民に与えかねない」と指摘しました。小型モデルであっても同様に悪用される危険性があり、より柔軟なアプローチが必要だという判断です。今月初めにセールスフォースのマーク・ベニオフCEOと対談した際にも、仮説上の脅威ではなく、実際に起きている問題から解決していく姿勢を語っていました。

成立した18本の法律は、きわめて実務的です。たとえば2026年に施行される「AB 2013」は、生成AIの提供企業に対し、学習データの詳細をウェブサイト上で公開することを義務付けます。データソースの内訳や規模、収集期間に加え、著作権やライセンス対象のデータが含まれているかどうかも開示対象です。

また「AB 1008」では、既存のプライバシー保護法が生成AIにも適用されることが明確化されました。ChatGPTのような対話型システムが個人情報や生体データを漏洩させた場合、企業は既存法に基づいて厳格に責任を問われることになります。

ハリウッドの複製禁止から選挙ディープフェイクまで

大きな注目を集めているのが、全米映画俳優組合（SAG-AFTRA）が強く後押しした2つの法案です。「AB 2602」は、俳優本人の具体的かつ明確な同意なしにAIで声や姿のデジタル複製を作成することを禁じました。さらに「AB 1836」により、遺族や遺産管理団体の許可なく亡くなった俳優をCGやAIで復活させることも違法となりました。

選挙や偽情報への対策も一気に進みました。「AB 2655」は主要SNSプラットフォームに対し、選挙に関連するディープフェイクの削除やラベル付けを義務付け、通報窓口の設置を求めます。さらに一般ユーザーによる悪質な選挙ディープフェイクの拡散を取り締まる法案や、政治広告へのAI使用明示を義務付ける法案も施行されました。

日常生活の領域でも規制の網が張られています。DALL-Eなどの画像生成サービスにはメタデータへの電子透かしの埋め込みが求められるほか、AI音声を使った自動迷惑電話の開示義務化、医療現場で患者に臨床情報をAI経由で伝える際の明示、さらには保険審査をアルゴリズム任せにせず医師の監督を義務付ける法律まで揃いました。

なぜ重要か

私たちは、カリフォルニア州が選んだこの現実路線を極めてスマートな一手だと評価しています。未来の極端なAI暴走論に振り回されるのをやめ、ディープフェイク詐欺、俳優の権利侵害、データの不透明さといったいま目の前にある脅威を各個撃破する方針に切り替えたからです。

クリエイターや一般市民にとって、この法律群は非常に心強い防波堤になります。自分の声や容姿が無断で複製されたり、性的なディープフェイクで脅迫されたりする被害に対して、実効性のある法的武器が手に入ったからです。

一方で、AIモデルを開発する企業にとっては、実質的な合規コストが跳ね上がることになります。特に2026年の学習データ開示義務は、これまでスクレイピングによるグレーなデータ収集に頼ってきた企業にとって強烈なプレッシャーとなるはずです。法務体制の整った巨大IT企業は対応できても、スタートアップにとっては18本もの細かな規制をクリアすることが重い足枷になりかねないという懸念は残ります。