米カリフォルニア州がAI規制に再挑戦、李飛飛氏ら有識者が新枠組み提言

昨年9月、米カリフォルニア州のギャビン・ニューサム知事は、1億ドル以上の開発費をかけた巨大AIモデルに安全性評価を義務付ける「SB 1047」法案に拒否権を行使しました。法案は厳格すぎると批判した知事は、それに代わる現実的な枠組みを策定するため、トップ研究者らを集めた専門家グループを立ち上げていました。

現地時間火曜日、その検討結果となる52ページの報告書「フロンティア・ポリシーに関するカリフォルニア・レポート」が公表されました。スタンフォード大学のフェイフェイ・リー氏やUCバークレー校のジェニファー・トゥール・チャイズ氏らが主導したこの報告書は、「開発企業単独では、自らのリスクや害を十分に把握しきれない」と痛烈に指摘しています。

計算資源による線引きを撤廃、独立した外部監査を提唱

報告書によると、昨年の拒否権行使以降もモデルの思考連鎖（CoT）による推論能力は急速に向上しています。さらに、化学・生物・放射性物質・核（CBRN）兵器のリスクに寄与する懸念が増大しており、大手企業自身からも警戒すべき能力急伸が報告されているといいます。

新提案で注目すべきは、規制基準から「計算資源（コンピュート）の規模」を主軸から外した点です。モデルの学習効率は急速に変化しており、計算量だけでは実際の社会的影響を測定できません。計算資源は予備的なスクリーニングにとどめ、初期リスク評価と下流での影響度を重視すべきだと訴えています。

その中核として求められているのが、独立した第三者評価の義務化です。現在主流の社内評価や委託先による検証では限界があり、視点の偏りも生じます。報告書は、外部の研究者が企業から利用規約違反や法的措置で訴えられないためのセーフハーバー（保護規定）や、内部告発者の保護、被害報告窓口の設置を盛り込みました。

閉ざされるアクセス権と業界の摩擦

外部検証の最大の壁は、企業側がモデルへの深いアクセス権を渡したがらない点です。

提携関係にある評価機関ですら締め出しに直面しています。OpenAIと連携する評価企業Metrは、o3モデルの検証において、過去のモデルよりも検証時間が大幅に削られ、データや内部推論プロセスへのアクセスが制限されたとブログで明かしました。これにより十分な能力評価が困難だったと指摘されています。

AnthropicのCEOであるダリオ・アモデイ氏は今月初め、企業がウェブサイトでリスク低減策を自己開示する連邦基準を提唱しました。しかし今回の報告書は、企業の自主開示だけでは不透明性を払拭できないと一蹴しています。

なぜ重要か

この報告書は、AIの安全性検証を「企業の自主的な広報活動」から「法的に守られた独立した公共監査」へと引き戻そうとするものです。

セキュリティ研究者や外部テスターにとって、セーフハーバーの創設は利用規約や法的威嚇を恐れずに脆弱性を突ける大きな後ろ盾になります。一方で一般の開発者にとっては、硬直的な計算量規制が外れることで、効率的なアーキテクチャを採用するスタートアップが不当な足かせをはめられるリスクが減ります。

計算資源重視から下流の実害ベースへと舵を切った判断は、技術の実態に即しており極めて賢明だと私たちは考えます。しかし、最大の実効性の課題はアクセス権です。Metrの例が示すように、企業は推論プロセスのブラックボックスを開けたがりません。企業秘密を守りたい巨大テックにどこまで内部検証を強制できるかは不透明です。

さらにワシントンでは、連邦議会やOpenAIが主導する「州によるAI規制を10年間凍結する法案」の動きが強まっています。カリフォルニア州が提示したこの青写真が全国標準の足がかりになるのか、それとも連邦法によって無効化されるのか、規制の主導権争いは正念場を迎えています。