米カリフォルニア州が新法案SB 53を提出、大手AI企業に安全性開示を義務付けへ

カリフォルニア州のAI規制法案が、方針を大きく転換して戻ってきました。

同州のスコット・ウィーナー上院議員は水曜日、最新のAI法案「SB 53」の修正案を提出しました。この法案は、OpenAI、Google、Anthropic、xAIなどの主要AI企業に対し、安全性とセキュリティに関する手順の公表や、安全上のインシデントが発生した際の報告を義務付ける内容です。法制化されれば、カリフォルニア州は全米で初めて、大手AI開発企業に本格的な透明性を義務付ける州となります。

責任追及から「情報公開」への軟化

ウィーナー議員が以前主導した「SB 1047」は、AIによる損害の法的責任を開発企業に負わせる内容だったため、シリコンバレーから猛反発を受け、ギャビン・ニューサム州知事の拒否権発動によって廃案となりました。その後、スタンフォード大学のフェイフェイ・リー教授らを中心とする有識者グループが設置され、業界にシステム情報の公開を求める報告書を提出しました。今回のSB 53修正案は、その提言を色濃く反映しています。

大きな変更点として、SB 53ではモデルがもたらした損害に対する開発元の法的責任が削除されました。さらに、既存の大規模モデルをファインチューニングするスタートアップや、オープンソースモデルを活用する研究者には負担を課さない設計になっています。

また、100人以上の死傷者または10億ドル以上の損害をもたらす「重大なリスク」を告発したAIラボの従業員を守る内部告発者保護規定や、学術・スタートアップ向けに計算資源を提供する公的クラスタ「CalCompute」の創設も盛り込まれました。

自主開示の形骸化と広がる州レベルの包囲網

法制化を急ぐ背景には、各社の情報開示姿勢の後退があります。Googleは最新モデル「Gemini 2.5 Pro」のセーフティレポート公開を利用開始から数カ月遅らせ、OpenAIに至っては「GPT-4.1」のレポート公開を見送りました。同モデルは後の第三者調査で、従来モデルよりアライメントが甘い可能性が指摘されています。

業界内の姿勢も分かれています。Anthropicが透明性向上に前向きな姿勢を示す一方、OpenAIやGoogle、Metaなどは依然として規制に抵抗しています。連邦議会では各州によるAI規制を10年間凍結する法案が99対1の大差で否決されたばかりで、ニューヨーク州でも類似の「RAISE法」が検討されるなど、州単位の規制圧力は高まる一方です。

なぜ重要か

一般の開発者やスタートアップにとって、今回のSB 53は実質的な負担がほぼない内容に抑えられています。大手モデルをファインチューニングしたりAPIを組み込んだりするだけであれば、規制対象外となるため、イノベーションの減速を心配する必要はなさそうです。

私たちは、このウィーナー議員の軌道修正は極めて巧みだと評価しています。過度な法的責任論を引っ込め、「安全対策の公開」と「重大リスクの内部告発保護」という最低限の透明性要求に絞り込んだことで、テック企業側が表立って反対する大義名分を奪いました。

もっとも、提出されるレポートがどこまで実効性を持つかは別の話です。報告書が単なるPR文書で埋め尽くされる懸念は残ります。それでも、フロンティアモデルを密室で開発し、安全性の評価を完全に自社都合でブラックボックス化する時代は、いよいよ終わりを迎えようとしています。