カリフォルニア州がAI規制法案を推進、大手テック企業は猛反発

ドナルド・トランプ氏の陣営が連邦レベルのAI規制撤廃を掲げる一方で、カリフォルニア州は真逆の方向に突き進んでいます。

ミルウォーキーで開催された共和党全国大会では、バイデン政権によるAI規制の撤回や、軍事用AIを推進する「マンハッタン計画」構想が語られました。しかし、民主党が主導するカリフォルニア州議会では、巨大テック企業に対してモデル公開前の「壊滅的リスク」評価を義務付ける新法案の審議が大詰めを迎えています。

サンフランシスコ選出のスコット・ウィーナー州上院議員が提出したこの法案は、一定以上の計算リソースを投じたフロンティアモデルを対象としています。化学兵器や生物兵器の製造支援、送電網へのサイバー攻撃など、社会に致命的な被害をもたらすリスクがないかを事前に検証し、新設される「フロンティア・モデル局」へ安全報告書を提出させる内容です。

業界団体から飛び出して直談判する大手テック

これまで政府による適切な規制を歓迎する姿勢を見せていたシリコンバレーですが、この法案には猛烈な反発を見せています。

法案が委員会を通過した直後、GoogleのAI・先端技術政策責任者であるアリス・フレンド氏は、法案の要求事項は「技術的に実行不可能」であり「責任を持って行動した開発者まで処罰することになる」と警告する書簡を送付しました。

MetaやMicrosoftも相次いで懸念を表明しています。業界団体TechNetの幹部は、各社が団体の後ろに隠れるのをやめ、自社の名前を掲げて抗議書簡を出したのは極めて異例だと指摘します。中小企業や研究者を支援するため、州営のクラウド計算基盤を提供する条項も盛り込まれましたが、業界側の不信感は払拭できていません。

ブルッキングス研究所のニコル・ターナー・リー氏は、これまでホワイトハウスなどで交わされてきた自主的な安全規約を、ウィーナー議員が法的拘束力のある義務へと変えようとしたため、業界が激しい警戒感を抱いたと分析しています。

なぜ重要か

開発者やスタートアップにとって、この法案はオープンソースエコシステムの行方を左右する問題です。モデル開発者が悪用による法的責任を直接問われるリスクが高まれば、モデルの重みを公開する動きが一気に鈍る可能性があります。州営クラウドの構想は魅力的ですが、自由に使える基盤モデルの選択肢が狭まれば、初期フェーズの開発効率はかえって落ちてしまいます。

業界全体にとって、カリフォルニア州の動向は全米のルールそのものです。全米で今年450本以上のAI法案が提出されていますが、かつて2018年にプライバシー法で全米の標準を作ったように、今回もサクラメントが事実上の規制ハブになりつつあります。仮にトランプ氏が勝利して大統領令が撤回された場合、州レベルで最も厳しいカリフォルニアの基準に、世界中のテック企業が合わせざるを得なくなります。

壊滅的な脅威を未然に防ぎたいという立法意図は理解できるものの、AIの安全性評価手法が確立されていない段階で行政主導の責任を課すのはリスクが高いと私たちは考えます。新設組織が対象モデルの基準を柔軟に変更できる仕組みも、現場にとっては予測可能性を奪う要因になりかねず、イノベーション拠点の州外流出を招く懸念が残ります。