米国防総省がAnthropicに最後通牒：軍事制限を解除しなければブラックリスト入りか

米国防総省（ペンタゴン）が、国内トップクラスのAI企業に対して異例の「最後通牒」を突きつけました。防護壁（ガードレール）を取り払わなければ、外国の敵対企業並みの制裁を下すというものです。

Axiosの報道によると、国防総省はボーイングやロッキード・マーティンといった主要軍需企業に対し、AnthropicのAIモデル「Claude」への依存度を調査するよう要請しました。これは、Anthropicを「サプライチェーンリスク」に指定するための初動措置です。この指定は通常、ファーウェイのような安全保障上の脅威とされる外国企業に適用されるもので、米国の先端テック企業に向けられるのは極めて異例です。

ピート・ヘグセス国防長官は、Anthropicのダリオ・アモデイCEOに対し、金曜日の午後5時1分を期限とする通告を出しました。自律型兵器や大量監視への利用を制限するセーフガードを解除するよう迫っています。

安全基準を捨てるか、ブラックリスト入りか

対立の火種となっているのは、アモデイCEOが譲らない2つの原則です。人間の介在（ヒューマン・イン・ザ・ループ）なしに動作する自律型兵器へのClaudeの利用と、米国市民に対する大規模な無差別監視への利用を禁じる規定です。

Axiosによると、ヘグセス長官が提示した選択肢は3つあります。軍の要求を全面的に受け入れるか、サプライチェーンリスクの指定を受けて2億ドル規模の契約を打ち切られるか、あるいは国防生産法（DPA）を発動されて法的強制措置を受けるかです。

現在、Claudeは米軍の機密ネットワーク内で稼働している唯一のAIモデルです。しかし国防総省は代替手段の確保を着々と進めています。xAIの「Grok」は「あらゆる合法的目的」での利用を認める条件で契約を結びました。さらに国防総省は、OpenAIやGoogleの機密アクセス認可も急速に進めており、Anthropicが拒絶しても即座に乗り換えられる体制を整えつつあります。

なぜ重要か

この動きは、民間AIラボが掲げる「AIの安全性」や倫理基準が、国家権力と軍事的要求に直面した際の限界を浮き彫りにしています。

Anthropicは創業以来、安全で責任あるモデル開発を最大の強みとしてきました。しかし、自国の国防総省から「監視や自律兵器の制限を解除しなければ制裁する」と脅される前例ができてしまえば、企業が独自に設けるガードレールは実質的に無力化しかねません。

国防総省側の論理としては、大国間競争の中でAIの能力を最大限に活用したいという思惑があります。しかし、倫理的制限を守ろうとする企業を敵性企業のように扱い、「合法的利用なら何でも可能」と応じる競合を優遇する姿勢は、業界全体に極めて歪んだインセンティブを与えることになります。

安全保障の名の下に軍用AIの歯止めが外された場合、ディストピア的な自律型兵器や大規模監視システムを止める防波堤がどこにも残らなくなるおそれがあります。