米カリフォルニア州、AI安全法案「SB 1047」を緩和　Anthropicの提案受け入れ

カリフォルニア州で大きな議論を呼んでいるAI安全規制法案「SB 1047」が、最終採決を前に修正され、大幅にトーンダウンしました。

シリコンバレーのベンチャーキャピタルや大手テック企業、さらには連邦議員からの強い反発を受け、起草者のスコット・ウィーナー州上院議員はAIスタートアップAnthropicなどの提言を取り入れた修正案を提出。現地時間8月15日、修正された法案は州議会歳出委員会を通過しました。

法案の根底にある「大規模AIによる大量死や5億ドル超のサイバー被害といった破滅的災害を防ぐため、開発者に法的責任を負わせる」という骨子は維持されています。しかし、行政側が企業に介入できる権限は以前より明確に抑えられました。

刑事罰の削除とオープンソースへの配慮

最大の変更点は、カリフォルニア州司法長官の提訴権限の縮小です。当初の案では、大惨事が発生していなくても、安全対策を怠っているとみなせば州が企業を訴えることが可能でした。修正後はAnthropicの提案通り、未然の段階では危険な運用の停止を求める仮処分請求にとどまり、正式な提訴は大惨事が発生した後に限定されます。

また、新たな独立監督機関「フロンティアモデル局（FMD）」の新設は見送られ、既存の政府運営局内に9人で構成される「フロンティアモデル委員会」を設置する形に改められました。

開発者への負担も緩和されています。安全テスト結果を提出する際の「偽証罪の適用」が撤廃され、単に安全対策をまとめた声明を公開するだけで済むようになり、刑事責任のリスクは消えました。求められる安全基準の文言も「合理的な保証（reasonable assurance）」から「合理的な配慮（reasonable care）」へと緩められています。

さらにオープンソース界隈への配慮として、対象モデルの微調整（ファインチューニング）にかかる費用が1000万ドル未満の場合、その事業者は開発者とみなされず、責任は元の基盤モデルを開発した企業が負うという免責規定が盛り込まれました。

批判派は反発継続、知事の判断へ

法案を和らげることで反対派をなだめ、ギャビン・ニューサム州知事が署名しやすい環境を整える狙いがあると見られますが、シリコンバレーの強硬派は納得していません。

大手VCのa16zのゼネラルパートナーであるマーティン・カサド氏はXで「修正はただの飾り立てであり、本質的な批判に対処していない」と批判。法案通過直後には、カリフォルニア州選出の連邦下院議員8人がニューサム知事に対し、法案への拒否権行使を求める書簡を送りました。

アドバイスを送った側のAnthropicも、すべての提案が採用されたわけではないとして、立場を明らかにする前に修正内容を精査中だとコメントしています。法案は州下院の本会議と上院での再可決を経て、知事のデスクに届けられる予定です。

なぜ重要か

今回の修正は、法案を潰されないための現実的で極めてスマートな政治的妥協だと評価できます。

オープンソースの微調整に1000万ドルの免責ラインを設け、開発者個人への偽証罪リスクを排除したことで、「個人の研究者やスタートアップが過度な法的リスクに怯えて開発できなくなる」という最大の批判ポイントをうまくかわしました。一般的なAI開発者やスタートアップにとって、足かせとなるリスクは大幅に下がったと言えます。

しかし、破滅的な被害が起きた際にフロンティアモデル開発元が直接の法的責任を負うという根本原則は残ったままです。大手テック企業にとってはこの責任の重さ自体が重荷であり、イノベーションを阻害するという主張の火種は消えていません。私たちは、法案が成立するか知事の拒否権によって葬られるかが、米国のAI覇権と規制の力関係を決める極めて重要な前哨戦になると見ています。