Anthropic、米軍の要請を拒否：監視と自律兵器の安全柵は解除せず

軍が巨額の予算を提示し、「自律型キラーロボットや国民監視のために、モデルの安全制限をすべて解除しろ」と要求してきたら、AI企業はどうすべきでしょうか。

AnthropicのCEOであるDario Amodei氏の答えは、明確な「拒否」でした。

Anthropicは米国防総省（DoW）との協議に関する声明を発表しました。軍側は「合法的なあらゆる用途」を受け入れ、モデルのガードレールを撤廃するよう要求しましたが、Anthropicは断固として拒絶。国民に対する大規模な国内監視と、人間の判断を介さない完全自律型兵器への利用という2つのレッドラインを死守する姿勢を示しました。

突きつけられた脅迫と「供給網リスク」認定

Anthropicは決して軍事利用そのものを拒んでいるわけではありません。実際、同社は最先端AI企業として初めて米政府の機密ネットワークや国立研究所にモデルを導入した実績があり、Claudeは情報分析や作戦立案、サイバー作戦などに広く利用されてきました。外国勢力との関係が疑われる企業を排除するために、数億ドル規模の売上を自ら放棄したこともあります。

しかし、今回の契約交渉で国防総省のCTOであるEmil Michael氏は強硬な姿勢を取りました。制限の解除に応じない場合、国防生産法を発動して強制するか、あるいはAnthropicを「サプライチェーンリスク」に指定すると脅したのです。この指定は通常、敵対国の企業に適用されるもので、米国の同盟企業に突きつけられた前例はありません。

Pete Hegseth国防長官も上院の公聴会でAmodei氏を「イデオロギーにかぶれた狂人」と批判しました。その後、国防総省はOpenAI、xAI、Google、Microsoft、Nvidiaなどと機密環境での利用合意を発表する一方、Anthropicを契約から締め出しました。

AIのハルシネーションが引き起こしかけた実戦の危機

Anthropicがここまで頑なに拒んだ最大の理由は、現代のAIが「自律して命を奪うにはあまりに不安定である」という現実にあります。

この懸念を裏付ける事態はすでに起きています。CNNの報道によると、米軍は核兵器関連物資を積載しているという情報をもとに中東で中国船の拿捕作戦を敢行寸前でしたが、直前で中止されました。原因を調査したところ、その報告書は現場のアナリストが使ったAIチャットボットの完全なハルシネーション（もっともらしい嘘）だったことが判明しました。

国内監視についても、現行法では令状なしで個人の移動履歴や閲覧履歴などのデータが購入可能となっており、強力なAIと結合すれば、個人の生活すべてを自動的かつ大規模に監視するシステムが容易に完成してしまいます。Anthropicは、技術の未成熟さと法制度の遅れを突いた危険な運用を断固として拒否しました。

なぜ重要か

今回の対立は、AIの安全原則が国家権力からの圧力に直面した際、どこまで持ちこたえられるかを問う重大な試金石です。

短期的には、Anthropicは極めて大きな商業的打撃を受けました。機密ネットワーク向けの防衛契約は莫大な利益と安定性をもたらす市場であり、そこから締め出されたことで、OpenAIやxAIといったライバルに重要なシェアを明け渡す形になっています。後追いでOpenAIも独自の制限枠組みを強調していますが、軍がAnthropicを排除した事実は変わりません。

しかし、Anthropicの選択は長期的には賢明であると考えられます。ハルシネーションによる誤認作戦の事例が示すとおり、現在のモデルでキラーロボットを実戦投入すれば、取り返しのつかない悲劇を引き起こすリスクがあります。国家からの恫喝に屈して安全策を外せば、企業としての信頼は失墜し、将来的に巨大な法的・倫理的責任を背負わされることになります。極限の圧力下でも市民監視や自律兵器化にノーを突きつけた実績は、一般企業や市民社会からの信頼という、他社には真似できない強力な武器になるはずです。