米国防総省がAnthropicに反発：自律兵器などの利用制限を巡り契約解除を示唆

米国防総省（ペンタゴン）が、軍事利用に制限を設けるAnthropicに対して不満を募らせ、2億ドルの契約打ち切りをちらつかせていることが報じられました。

Axiosの報道によると、国防総省はAI企業に対し、軍が自社技術を「すべての合法的な目的」で利用できるように求めています。これに対してAnthropicは強く抵抗しており、国防当局者からは取引相手の中で「最もイデオロギー的」だと名指しされています。

譲れない2つのレッドライン

国防総省はOpenAI、Google、xAI、Anthropicの4社に同様の要請を行いました。報道によると、1社はすでに合意し、2社は柔軟な姿勢を示しているものの、Anthropicだけが強硬に反対しているとされます。

Anthropicが主張しているのは、「完全自律型兵器」への利用禁止と、「国内での大規模監視」への関与拒否という2つの明確な制限です。

同社CEOのダリオ・アモデイ氏は最近のポッドキャストなどで、自律型ドローン群には違法な命令を拒否する人間の判断が介在しないことや、公共空間の映像や音声をAIで統合分析することで反対派の特定に悪用されるリスクについて懸念を表明していました。

ベネズエラ作戦をめぐる火種

対立の背景には、今年1月3日に実施されたベネズエラのマドゥロ前大統領拘束作戦があります。ウォール・ストリート・ジャーナルによると、この実戦作戦でClaudeが使用されていました。

国防総省側は、Anthropicが提携先のPalantirに対し、自社技術がこの銃撃戦を伴う作戦に使われたかを問い合わせ、不快感を示したと主張しています。一方のAnthropicは、個別作戦について協議した事実を否定し、あくまで利用規約上の基本方針を議論していると説明しました。

軍側が激怒しながらも契約破棄に踏み切れないのは、性能差があるためです。Axiosにリークした国防関係者は、「他のモデル企業はClaudeに一歩遅れをとっている」と本音を漏らしています。

なぜ重要か

この問題は、最先端AIの倫理ガイドラインが国家権力の実戦配備と正面衝突した象徴的な出来事です。

ユーザーや開発者にとって、Anthropicが2億ドルの防衛契約を人質に取られてもポリシーを曲げない姿勢は、同社の安全性へのこだわりが単なる宣伝文句ではないことを示しています。信頼性を重視する企業顧客にとっては一定の安心材料になるはずです。

しかし、ビジネス面では極めて危うい賭けだと私たちは考えます。軍が求めているのは例外のない確実性であり、競合するOpenAIやxAIが柔軟に応じる姿勢を見せている以上、Anthropicだけが政府の大規模案件から締め出されるリスクがあります。

結局のところ、Anthropicの強気な態度は「Claudeが他社より優秀である」という技術的優位性に支えられています。もし他社モデルがその差を埋めてしまえば、軍が使い勝手の悪いポリシーを掲げる企業を使い続ける理由は失われることになります。