米ニューヨーク州議会がAI安全法案「RAISE」可決：大手モデルに安全報告を義務付けへ

カリフォルニア州で昨年、物議を醸したAI安全性法案「SB 1047」が知事の拒否権によって葬り去られた後、米国における州レベルの規制の動きは一度下火になったかに見えました。しかし、ニューヨーク州が再び規制の口火を切りました。

ニューヨーク州議会は現地時間の木曜日、フロンティアAIモデルによる破滅的リスクの防止を目的とした「RAISE法（RAISE Act）」を可決しました。対象となるのは、100人以上の死傷者や10億ドルを超える物的損害をもたらすような重大事故の防止です。

法案は現在、キャシー・ホークル州知事のデスクに送られており、知事が署名して成立させるか、修正を求めて差し戻すか、あるいは拒否権を行使するかが注目されています。

ノーベル賞受賞者のジェフリー・ヒントン氏やAI研究のパイオニアであるヨシュア・ベンジオ氏など、安全性を重視する研究者たちがこのRAISE法を強く支持しています。成立すれば、米国のフロンティアAI研究所に対して法的に透明性基準を義務付ける初の州法となります。

1億ドル以上の計算リソースを投じた巨大モデルが対象

RAISE法が規制対象とするのは、1億ドル以上の計算リソースを投じてトレーニングされ、かつニューヨーク州の住民に提供されている最先端AIモデルです。現時点では事実上、OpenAIやGoogle、Anthropicといった米国のメガテック企業や、中国のDeepSeek、アリババといった極めて限られた超巨大モデルのみが該当します。

対象企業には、フロンティアモデルに関する包括的な安全性・セキュリティ報告書の公開が義務付けられます。さらに、モデルの異常行動やモデル重みの盗難といった重大なインシデントが発生した際には、当局への報告を行わなければなりません。

これらの基準を怠った場合、ニューヨーク州司法長官は最大3000万ドルの民事罰を科す権限を持ちます。

共同提案者であるアンドリュー・グナルデス州上院議員は、AI技術の進化スピードに対してガードレールを設けるための時間は急速に失われていると指摘し、技術を最もよく知る専門家がリスクを警告している以上、対策は急務だと述べています。

カリフォルニア州法案の教訓とシリコンバレーの反発

今回の法案は、廃案となったカリフォルニア州のSB 1047に対する批判を強く意識して設計されています。

両法案に関わった非営利団体Encodeのネイサン・カルビン氏によると、RAISE法では物議を醸した「キルスイッチ（緊急停止機能）」の搭載義務が除外されました。また、モデル公開後に事後学習（ファインチューニング）を行った二次開発者が重大な損害の責任を問われないよう、責任の所在も緩和されています。

それでもシリコンバレーからの反発は根強く残っています。ベンチャーキャピタルa16zのジェネラルパートナーであるアンジネイ・ミドハ氏はX上で、海外の競合が先を急ぐなかで米国を自ら傷つける愚かな州法案だと痛烈に批判しました。

連邦レベルでの透明性基準を支持していたAnthropicも、共同創業者のジャック・クラーク氏がXで法案の適用範囲の広さに懸念を示し、小規模企業への影響を指摘しました。これに対しグナルデス議員は、そもそも中小企業を除外した設計になっており的外れな批判だと反論しています。

EUのように規制を嫌ったAI企業がニューヨーク州でのモデル提供を取りやめるのではないかという懸念もありますが、共同提案者のアレックス・ボレス州下院議員は、ニューヨーク州は全米第3位の経済規模を持ち、今回の規制負担も比較的軽微であるため、企業が市場から撤退する経済的合理性はないと強気です。

なぜ重要か

トランプ政権やシリコンバレーの主流派が技術革新とスピードを最優先するなかで、AIセーフティ陣営にとってRAISE法の議会通過は久々の大きな前進となりました。

一般ユーザーやスタートアップの開発者にとって、直ちにサービスが使えなくなったり過度な負担が生じたりするリスクは低いと見られます。1億ドルという極めて高い計算コストの基準を設け、さらに事後学習を行う開発者を免責したことで、オープンソースコミュニティへの巻き添えを賢く回避しているためです。

業界全体への影響として注視すべきは、州ごとの規制の分断リスクです。連邦政府による包括的なルールが存在しないまま各州が独自の基準を乱立させれば、企業のコンプライアンス負担は肥大化し、結果的に体力のある巨大テック企業だけが生き残る構図を強めかねません。

筆者としては、過度な介入として猛反発を食らったキルスイッチを捨て、現実的な情報公開とインシデント報告に焦点を絞ったニューヨーク州のアプローチは極めて巧妙だと評価できます。知事の署名を経て実際に運用されることになれば、ブラックボックス化が進むフロンティアモデルの開発において、透明性を担保するための重要な試金石となるはずです。