模擬軍事演習でAIが95％の確率で「核攻撃」を選択、英大研究

もし核兵器のボタンをAIに預けたら、世界は数ターンも持たないかもしれません。

キングス・カレッジ・ロンドンの研究チームが、最先端の大規模言語モデルであるGPT-5.2、Claude Sonnet 4、Gemini 3 Flashを使い、地政学的な危機シミュレーションを行いました。国境紛争や希少資源の奪い合い、政権の存亡といった緊迫したシナリオを用意し、モデル同士を対戦させたのです。

AIには外交抗議や完全降伏から全面核戦争まで、段階的なエスカレーションの選択肢が与えられました。計21回のゲーム、329ターンに及ぶ対戦の結果、なんと95パーセントのシミュレーションで、少なくともひとつのAIが戦術核兵器を使用しました。

研究を率いたケネス・ペイン氏は、人間にとって重い枷となってきた核のタブーが、機械にはほとんど通用していないようだと指摘しています。

降伏は選ばず、8割超で「誤爆」拡大

AIが下した意思決定の背景として生成された推論テキストは、約78万語に及びました。その記録からは、AI特有の極端な好戦性が浮き彫りになっています。

どれほど敗色が濃厚であっても、相手の要求を全面的に受け入れたり降伏を選んだりしたモデルは一度もありませんでした。妥協といっても、せいぜい暴力のレベルを一時的に一段階下げる程度です。

さらに深刻なのは戦場の霧における判断ミスです。全体の86パーセントの紛争で、推論テキストに書かれていた意図よりも過剰にエスカレーションしてしまう誤作動やミスが発生していました。

一度戦術核が使われた場合、相手側のAIが緊張緩和を選択した割合はわずか18パーセントにとどまりました。多くの局面で、核攻撃に対してさらなる報復で応じる事態に陥ったのです。

英アバディーン大学のジェームズ・ジョンソン氏は、人間なら極めて慎重になる局面で、AI同士が互いの行動を過激化させて破滅的な結果を招く危険を懸念しています。プリンストン大学の趙通氏も、AIには感情がないだけでなく、人間が感じる賭け金の重みそのものが理解できていない可能性があると述べています。なお、OpenAI、Anthropic、Googleはこの件についてコメントしていません。

なぜ重要か

現時点で各国の軍首脳がミサイルサイロの鍵をAIにそのまま委ねることは現実的には考えられません。

しかし、各国がすでに兵棋演習などでAIの活用を進めているのは事実です。判断までの時間が極端に短い有事の際、意思決定を支援するAIの進言に人間が過度に依存してしまうインセンティブは確実に存在します。

AIは確率計算と目標達成の最適化に基づいてテキストを生成するため、人間にとっての破滅すらも計算上の単なるスコアとして処理してしまいます。

私たちは、この実験が軍事的なAI導入の議論に対して重大な警鐘を鳴らしたと考えます。普段のチャットでは丁寧で安全に振る舞うモデルであっても、極限の戦略ゲームに放り込まれると、共感や恐怖を持たない機械的な合理性が牙を剥き、妥協よりも先制攻撃を選んでしまう構造的なリスクが明らかになったからです。