米上院民主党、Anthropicの自律兵器・監視規制を法制化へ

AI企業が軍による完全自律型兵器や国民への大量監視への技術提供を拒否した結果、政府から国家安全保障上のリスクとしてブラックリスト入りさせられるという事態がアメリカで現実のものとなっています。

事の発端は今月初め、国防総省が求める条件を拒否したAnthropicに対し、トランプ政権がサプライチェーンリスクに指定したことでした。Anthropicは憲法上の権利侵害を訴えて提訴しています。ライバルのOpenAIが軍の条件を受け入れて批判を浴びる中、米上院の民主党議員たちがAnthropicの引いたレッドラインをそのまま法律として明文化する動きに出ました。

カリフォルニア州選出のアダム・シフ上院議員は、AIによる生死の判断に人間の関与を義務付ける法案を起草しています。また、ミシガン州選出のエリサ・スロットキン上院議員も先週、国防総省による国内大量監視や自律型殺傷兵器、核兵器の起爆へのAI利用を制限する「AIガードレール法案」を提出しました。

生死の決断をアルゴリズムに委ねない

シフ議員の主張は明快です。人の命を奪う能力を持つテクノロジーを扱う以上、指揮系統の中に生身の人間が存在しなければならないという考え方です。

これは軍事分野でAIを全否定するものではありません。戦場で生じる膨大な情報を人間より早く処理し、オペレーターに危険を知らせる用途ではAIが大きな力を発揮します。しかし、市民と軍事目標を識別し、最終的に引き金を引く判断は人間が行うべきだとシフ議員は述べています。

スロットキン議員の法案も同様の方向性を持ち、AIによる核兵器の起爆や米国内での人々の追跡を禁じています。例外的な事態で自律型殺傷兵器を使用せざるを得ない場合でも、国防長官が議会へ通知する手続きを定めています。シフ議員の事務所は業界関係者と協議を重ねながら、自律型兵器の具体的な定義を詰めている段階です。

CEOの約束ではなく法律に頼るべき

この立法の背景には、国防総省と民間AI企業の危うい関係があります。Anthropicが頑なに原則を守ったことで報復を受け、OpenAIが条件を受け入れて釈明に追われる現状を、議員たちは深刻に受け止めています。

シフ議員は、国内屈指のAIリーダー企業を潰そうとする政権の動きを独裁的だと批判しました。その上で、ペンタゴンの自制心やAI企業のCEOの言葉を信じるのではなく、法的な義務として縛る必要があると強調しています。

ただし、法案の成立には高い壁があります。現在、民主党は上下両院で少数派であり、中間選挙を控えて共和党が政権批判と取られかねない法案に賛同するのは容易ではありません。そのためシフ議員は、単独法案ではなく国防権限法（NDAA）などの必須法案に条項を盛り込む形で前進させる道を模索しています。

なぜ重要か

この動きは、AIの倫理ガイドラインが単なる企業の「努力目標」から、国家権力と衝突する法的な戦場へ移ったことを示しています。

一般市民にとっても無関係ではありません。自律型兵器だけでなく、国内での大量監視に最先端AIが使われるのを防ぐことは、個人のプライバシーを守るための死活問題です。行政がAIを使って監視ネットワークを広げるのを法的に抑止できるかどうかが問われています。

AI業界にとっても大きな分水嶺となります。自主的なガイドラインを守ろうとしたAnthropicが締め出され、妥協したOpenAIが契約を得るという構図は、倫理を守る企業ほど損をするという最悪の市場インセンティブを生み出します。法的な最低基準を設けなければ、開発競争は際限のない軍事利用へと雪崩を打つことになります。

私たちは、企業の自主ルールを連邦法に格上げしようとする試み自体は極めて的確だと考えます。しかし、議会の分断によって法案が骨抜きにされる恐れも残っています。法律による歯止めが効かないまま国防調達が進めば、生死の判断を機械に任せる未来がなし崩し的に訪れるリスクは否定できません。