米カリフォルニア州知事、包括的AI安全規制法案「SB 1047」に拒否権行使

この数カ月間、シリコンバレーのAI企業が最も固唾を呑んで見守っていたのは、新型GPUの供給でも競合の新機能でもなく、カリフォルニア州知事のデスクに置かれた一枚の法案でした。

カリフォルニア州のギャビン・ニューサム知事は、全米で最も厳格なAI安全規制法案と目されていた「SB 1047」に対する拒否権を行使しました。

1億ドルの壁と「キルスイッチ」の義務化

スコット・ウィーナー州上院議員が主導したSB 1047は、大規模フロンティアモデルの開発企業に対して極めて重い事前管理責任を課す内容でした。

対象となったのは、カリフォルニア州内で事業を行う企業のうち、トレーニング費用が1億ドルを超えるモデル、またはファインチューニング費用が1000万ドルを超えるモデルです。開発者には、壊滅的なサイバー攻撃や生物兵器拡散などの大惨事を防ぐための事前テストの実施や、緊急停止機能である「キルスイッチ」の実装、内部告発者の保護などが義務付けられました。さらに、深刻な被害（損害額5億ドル超）が発生した場合には、州司法長官が提訴できる規定も盛り込まれていました。

法案は夏にかけて修正され、新設予定だった規制機関の設置が見送られるなど一定の緩和が行われたものの、テック業界からの反発は収まりませんでした。

OpenAI、Google、Metaといった主要企業やベンチャーキャピタルをはじめ、ナンシー・ペロシ元下院議長やサンフランシスコのロンドン・ブリード市長までもが反対の声を上げました。OpenAIの最高戦略責任者ジェイソン・クォン氏は「イノベーションを遅らせる」とし、規制は各州ではなく連邦政府が主導すべきだと主張。Metaもオープンソースコミュニティの破壊につながると警告しました。

一方で、支持派の顔ぶれも異色でした。「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントン氏だけでなく、規制反対派と見なされがちなイーロン・マスク氏も支持を表明。さらに全米映画俳優組合（SAG-AFTRA）や映画監督のJ・J・エイブラムス氏ら120人以上のハリウッド関係者も賛同し、Anthropicのダリオ・アモデイCEOも修正後の法案に対して「利点がコストを上回る」と前向きな姿勢を示していました。

なぜニューサム知事は拒否したのか

ニューサム知事は拒否声明の中で、AIの安全対策や悪質なアクターに対する明確な責任追及の必要性自体は認めつつも、SB 1047のアプローチには構造的な欠陥があると指摘しました。

知事が問題視したのは、法案が「モデルの開発費や計算規模」だけで一律に厳しい基準を課し、そのAIが「高リスクな環境で使われているか」「機密データを扱っているか」といった実際の運用リスクを一切考慮していない点です。

声明では、このような規模基準による規制は「急速に進化するテクノロジーを制御できているという誤った安心感を市民に与えかねない」と強調されています。1億ドルの基準に満たない小型で特化したモデルであっても同等以上の危険を生み出す可能性があり、大企業の大規模モデルの研究開発だけを縛ることは、公益につながるイノベーションを阻害するだけだと結論付けました。

法案を提出したウィーナー議員はX（旧Twitter）上で、「地球の未来を左右する意思決定を行う巨大企業に対する監督を信じるすべての人にとっての後退だ」と知事の決定を強く非難しています。

なぜ重要か

今回の拒否権行使により、シリコンバレーはひとまず最大の法的足かせを回避することに成功しました。

開発者やスタートアップにとって、この判断は大きな猶予となります。もし法案が成立していれば、フロンティアモデルを微調・活用する事業者までが莫大な法的責任やコンプライアンス対応のリスクに晒され、オープンソースモデルのエコシステムにも冷や水を浴びせることになっていたはずです。

ただし、これで規制の議論が終わったわけではありません。ニューサム知事の指摘は「規制そのものの否定」ではなく、「計算資源の規模ではなく、具体的なリスクと用途に基づいた規制にすべきだ」という方針の転換です。今後は、用途ごとのより細分化された規制案が浮上してくる可能性が高いと見られます。

また、今回の決定によってボールは再びワシントンの連邦議会に投げ返されました。OpenAIなどが主張するように全米統一のルールが理想的であるとしても、米議会の動きは鈍く、実効性のある法制化にはなお時間がかかりそうです。統一されたルールが存在しない空白期間が続く中、テクノロジーの急進と安全対策のバランスをめぐる綱引きは、今後さらに複雑なフェーズに入っていきます。