アルトマンCEO「ペンタゴンのAI利用に口出しできない」と社内で説明

国防総省との大型契約を取り付けてから1週間も経たないうちに、OpenAIは手痛い代償を支払うことになりました。

OpenAIのサム・アルトマンCEOは社内の全社集会で社員に対し、同社には国防総省がAIソフトウェアをどう使うかについて一切の決定権がないことを率直に明かしました。

アルトマン氏の説明によると、軍は技術的な知見についてはOpenAIに相談するものの、個別の軍事作戦が適切かどうかといった判断に民間企業が口を挟むことは断じて許さない方針です。同氏は、そうした作戦レベルの決定に影響を及ぼそうとした姿勢こそが、競合Anthropicが軍から追放される引き金になったのだろうと示唆しました。

24時間の電撃契約が招いた混乱

事の発端は、Anthropicと国防総省の交渉決裂でした。軍が「あらゆる合法的目的」へのAI活用を求めたのに対し、Anthropicは国内での大規模監視や完全自律型兵器への使用を拒絶しました。その結果、米政府はAnthropicをサプライチェーンリスクに指定し、取引禁止を打ち出しました。

ところがOpenAIは、Anthropicが排除されてからわずか24時間以内に、ほぼ同等の条項を受け入れて機密ネットワーク向け契約を結びました。これが同社にとって近年最大のブランド危機を招くことになります。

サンフランシスコ本社前では抗議デモが発生し、解約が相次いでChatGPTのアンインストール数は295%急増しました。反発したユーザーはAnthropicに流れ、社内でも研究担当VPのマックス・シュワルツァー氏がAnthropicへの移籍を表明するなど動揺が広がりました。

アルトマン氏はSNSで、契約を急ぎすぎた結果「日和見的で杜撰に見えてしまった」と認め、その余波は極めて苦痛だと吐露しました。違憲な命令に従うくらいなら刑務所に入ったほうがましだ、とまで発言しています。

契約修正と「口出しできない」現実

火消しに追われるOpenAIは、契約内容の修正を余儀なくされました。研究者のノーム・ブラウン氏は、抜け穴が解消されるまでNSAや他の情報機関への展開は見合わせると説明しています。

またアルトマン氏は、自社の安全スタックを組み込むことで乱用を防ぎ、モデルが処理を拒否した場合は軍もそれを強制しない取り決めになっていると強調しました。

しかし、アルトマン氏が全社集会で語った通り、技術的なガードレールと作戦への関与は別物です。軍が必要としているのは高度な技術基盤であり、軍事行動の是非をジャッジする倫理委員会ではないという現実が浮き彫りになりました。

なぜ重要か

一般ユーザーや開発者にとって、今回の騒動はプラットフォームの信頼性を大きく揺るがす出来事です。アプリのアンインストールが3倍近く跳ね上がった事実は、倫理的スタンスのブレが消費者の離反に直結することを示しています。OpenAIのAPIに依存している開発者も、ブランド毀損リスクを見越して複数モデルの併用を真剣に考える必要があります。

AI業界全体にとっても、軍とテック企業のパワーバランスを決定づける転換点となりました。国防総省は、自社の倫理規範を理由に拒否権を握ろうとする企業を容赦なく排除し、割り切って従う企業を選ぶという姿勢を鮮明にしました。国家プロジェクトを狙うプレイヤーは、厳しい選択を迫られることになります。

私たちは、OpenAIの今回の立ち回りは非常に拙かったと見ています。競合が排除された隙を突いて24時間で契約を奪いに行った動きは、どう見てもご都合主義に映りました。後から技術的な安全策をアピールして批判をかわそうとしても、一度失った信頼を取り戻すのは容易ではありません。国家の軍事システムにモデルを組み込んだ以上、コード上の拒否プロンプトだけで倫理的責任を果たせると考えるのは、いささか甘いと言わざるを得ません。