OpenAIが米国防総省と機密ネットワーク利用で合意、安全策も盛り込む

米国防総省がAnthropicをブラックリストに載せて排除した直後、OpenAIが軍の機密ネットワークへの参入を発表しました。

Sam Altman CEOが金曜夜に明かしたこの契約は、ライバルのAnthropicが国防総省と激しく衝突し、事実上の締め出しを受けた直後に成立したものです。驚くべきことにAltman氏は、Anthropicが譲らなかった安全基準をそのまま守る形で合意を取り付けたと主張しています。

Anthropicへの最後通牒とサプライチェーン指定

対立の発端は、国防総省がAI各社に対し、あらゆる合法的な軍事目的にモデルを使用することを認めるよう迫ったことでした。これに対しAnthropicのDario Amodei CEOは、米国内の大規模監視と、人間の関与しない完全自律型兵器への使用という2つのレッドラインを死守する姿勢を崩しませんでした。

国防長官のPete Hegseth氏は、同社が米軍の作戦決定権を乗っ取ろうとしていると猛反発しました。Axiosの報道によると、国防総省は規制の解除か、2億ドルの契約破棄およびリスク指定か、あるいは国防生産法による強制措置かの三者択一を迫ったとされます。

最終的にトランプ大統領がAnthropicを左派の狂人と非難し、政府機関に6カ月以内の排除を指示しました。さらにHegseth長官が同社をサプライチェーンリスクに指定し、米軍と取引のある全契約企業にAnthropicとの取引停止を命じる事態に発展しました。Anthropicは法廷で争う構えを見せ、OpenAIの従業員60人以上やGoogleの300人以上がAnthropic支持の署名を行っていました。

クラウド限定と安全スタックの保持

この混乱の中で契約をまとめたOpenAIは、安全性を契約書と技術構成の双方で担保したと説明しています。

OpenAIの発表によると、今回の配備はクラウド経由に限定され、ドローンなどの端末側にモデルを直接搭載することはありません。これにより、物理的に自律兵器へ組み込まれるリスクを遮断します。また自社の安全スタックをOpenAI側が完全に管理し、機密取扱資格を持つ自社エンジニアを軍に常駐させます。

社内会議でAltman氏が明かしたところによると、モデルが軍の指示を拒否した場合でも、政府がOpenAIに対して無理に実行させることはできない取り決めになっています。さらに米国民の監視への利用や市販個人データの悪用、NSAなどの情報機関による無断使用も契約で明示的に禁じられました。Altman氏は、この条件をすべてのAI企業にも適用して緊張を緩和すべきだと呼びかけています。

なぜ重要か

私たちは、OpenAIが政治的に極めて巧みな立ち回りを見せた一方で、業界全体が危険な力学に巻き込まれつつあると考えています。

Anthropicのように真正面から政府と対立して市場から締め出されるリスクを避け、原則論をクラウド配備や安全スタックというシステム設計の議論に落とし込んだ手法は極めて実用的です。もしこの枠組みが標準化されれば、開発者や企業は倫理と政府調達の間で板挟みにならずに済む道が開けます。

しかし、この防壁がどこまで機能するかについては疑問も残ります。契約上は合法的な目的に沿うとされているものの、何が合法であるかを解釈するのは最終的に軍や政府です。有事や戦時下において、OpenAIの安全スタックが本当にモデルの拒否権を守り通せるのかは不透明に見えます。

何より、自社の安全基準を曲げなかった企業が即座に国家の安全保障上のリスクとして排除された事実は、今後のAI規制や開発方針に重い影を落とします。OpenAIが手に入れた妥協案は一見スマートですが、国家権力が本気配備を急ぐ中で、民間のAI研究所が引いた一線がどこまで耐えられるかの試金石になりそうです。