Anthropic、監視や自律兵器への悪用を拒否：国防省からの指定警告に反論

政府との契約交渉が決裂した際、通常であれば双方が合意に至らず契約を見送るだけで終わるはずです。しかし今週、ペンタゴンと米国の有力AIスタートアップであるAnthropicとの間で起きた対立は、前代未聞の事態へと発展しました。

ピート・ヘグセス戦争長官はソーシャルメディアのX上で、Anthropicを「サプライチェーンリスク」に指定するよう省内に指示したと表明しました。これに続き、ドナルド・トランプ大統領も連邦政府機関に対し、6カ月の移行期間を経てAnthropicの技術利用を停止するよう命じました。

さらにヘグセス長官は、米軍と取引のあるすべての請負業者、サプライヤー、パートナー企業に対し、Anthropicとのあらゆる商業活動を即座に禁止すると投稿しました。

譲らなかった2つのレッドライン

数カ月にわたる協議が決裂した背景には、Anthropicが求めたClaudeの利用規約に関する2つの例外規定がありました。

Anthropicが断固として拒否したのは、米国民に対する大規模な国内監視への利用と、人間の判断を介さずに標的を定めて攻撃する完全自律型兵器への転用です。

同社のダリオ・アモデイ最高経営責任者は、現在のフロンティアモデルは完全自律型兵器を担うほど信頼性が高くなく、軍人や民間人を危険にさらすと指摘しました。また国内の大規模監視は基本的権利の侵害にあたると主張しています。

国防総省側はどちらも実行する計画はないとしながらも、民間ベンダーの利用規約によって軍の活動が制限されるべきではないとの立場を崩しませんでした。

Anthropicは公式声明で徹底抗戦を表明しました。サプライチェーンリスクという指定は歴史的に敵対国に対してのみ用いられてきたものであり、米国の自国企業に対して公に適用された前例はないと強く反発しています。

さらに同社は、合衆国法典上の規定に基づけば、この指定が法的に効力を持つのは国防省との契約作業内に限られ、民間の一般顧客やAPI利用者、さらには防衛産業企業の民間向け事業には一切影響しないと説明しました。

シリコンバレーの反発と競合の急進

この強硬措置に対し、テクノロジー界隈からは激しい批判が巻き起こっています。OpenAI、Slack、IBM、Cursor、Salesforce Venturesなどの従業員を含む数百名が公開書簡に署名し、指定の撤回と議会による調査を求めました。

書簡では、契約条件で折り合えない民間企業を行政権力で処罰することは、政府の要求に全面的に従わなければ報復されるという危険な前例を作ると警告されています。

その一方で、事態は皮肉な展開も見せました。トランプ大統領がAnthropicを攻撃した直後、競合のOpenAIが国防総省の機密ネットワークへのモデル配備で合意したと発表したのです。

OpenAIのサム・アルトマンCEOは自社もAnthropicと同じレッドラインを共有していると述べましたが、社内の研究者からは、政府による国民の監視を生物兵器と同レベルの破滅的リスクとして扱うべきだという声も上がっています。

なぜ重要か

一般の開発者や企業ユーザーにとって、直ちにClaudeが使えなくなる心配はありません。一般向けサービスや商用APIは通常通り稼働しており、軍事契約そのものに関わらない限り法的な制限を受ける根拠は薄い状況です。

しかし、AI業界全体に与える影響は極めて深刻です。私たちは、政府が安全保障上の権限を濫用して民間企業の倫理基準を屈服させようとした今回の動きは、極めて危険な前例を生み出しかねないと見ています。

Anthropicが巨大な政府調達案件を失うリスクを冒してでも、自律兵器や国民監視への拒絶を貫いた姿勢は、理念を守る行動として評価できます。法廷闘争で行政命令の逸脱をどこまで食い止められるかが焦点となります。

一方で、この間隙を縫って軍事契約を獲得したOpenAIの立ち回りは、ビジネスとしては抜け目がないものの、極めて危うい綱渡りと言えます。同じ制約を掲げている以上、ペンタゴンからいずれ同様の要求を突きつけられた際に、OpenAIがどこまで一線を守れるのかが厳しく問われることになるはずです。