米カリフォルニア州がAI監査法案に署名、第三者機関による検証を義務化

これまで最先端のAIモデルが登場するたび、開発企業は自ら作成した数十ページの安全性レポートを公表してきました。しかし、それは生徒が自分のテストを自分で採点しているようなものでした。

カリフォルニア州が、その採点用の赤ペンを取り上げました。9月9日、ギャビン・ニューサム州知事は、全米初となるAI第三者監査の枠組みを定めた2つの州法案（SB 813およびAB 1405）に署名しました。モデル開発企業による自己申告の安全認証に終止符を打つ動きです。

自主規制から第三者監査への転換

今回成立した2つの法案は、検証機関の制度設計と監査人の適格基準をそれぞれ押さえています。

ジェリー・マクナーニー上院議員が提出したSB 813は、AIシステムや基盤モデルが州法を遵守しているかを評価する独立検証機関の枠組みを構築するものです。マクナーニー議員は、自律型エージェントと連携した最先端AIが現実的な脅威となりつつある中、連邦議会が動かないため州が主導権を握る必要があると強調しました。

レベッカ・バウアー＝カハン下院議員が提出したAB 1405は、監査人側を縛る法律です。AI監査人の州公認レジストリ（登録簿）を創設し、独立性、透明性、誠実性の基準を厳格に定めます。業界自身の甘い自己採点に頼るのではなく、公認された第三者がリスクを検証し、インフラや市民生活への安全性を担保する狙いがあります。

カリフォルニア州はこれまでも、2023年の行政利用指針、2024年のディープフェイク・透かし規制、2025年のフロンティアAI透明性法（SB 53）と着実に包囲網を築いてきました。先月発表されたサイバー防衛プログラムに続き、今回の監査法制化でガバナンスの骨格がほぼ揃った形です。

なぜ重要か

AI業界の最大の弱点であった「自己申告頼み」に法的なメスを入れた点は、非常に理にかなった判断だと考えられます。

開発企業やスタートアップにとって、自作のシステムカード（安全概要書）だけで信頼を得る時代は終わりました。カリフォルニア州内で重要インフラに関わるサービスを提供したり、州政府向けビジネスを展開したりする企業には、独立した監査人の審査を受ける追加コストと手間が確実に発生します。

一般ユーザーの視点では、金融や医療、インフラ管理にAIエージェントが急速に入り込む中、密室での暴走を防ぐ公的なチェック機能が働く安心感があります。

懸念されるのは監査基準の実効性です。業界全体で確立された安全ベンチマークが未だに乏しい中、監査人が何を基準に合格を出すのかが曖昧なままだと、形式的な書類審査の形骸化を招く恐れがあります。厳格すぎれば新興企業を州外へ流出させ、甘すぎれば大企業のロビー活動に屈することになりますが、企業の自画自賛を法的に封じる第一歩を踏み出した意義は小さくありません。