米陸軍が戦争ゲームでGPT-4をテスト：作戦立案で戦果出すも死傷者が増加

米陸軍が大規模言語モデルに作戦計画を立てさせたらどうなるかという実験を、軍事シミュレーションゲーム内で行いました。

New Scientistの報道によると、米陸軍研究所（Army Research Laboratory）はOpenAIの生成AIソリューションが戦闘計画の立案を支援できるかを検証しました。実戦ではなく、軍事ビデオゲームの環境を用いた実験です。

成果は出したが犠牲者が増加

研究チームはOpenAIの「GPT-4 Turbo」と「GPT-4 Vision」に、模擬戦場の地形データや敵味方の戦力情報、攻防に関する戦術的教訓を入力しました。比較対象として、従来の技術に基づく2種類の旧型AIモデルも用意されました。

与えられた任務はシンプルで、「敵軍をすべて殲滅し、目標地点を占領すること」でした。

OpenAIのモデルは即座に複数の作戦行動案を出力し、指揮官役の人間の研究者がその内容をさらにブラッシュアップさせました。GPTモデルは旧型の2モデルよりも優れた戦術的成果を収めた一方で、任務を達成する過程でより多くの死傷者を発生させたことが明らかになりました。

加速する軍事AIの現場導入

生成AIの活用実験は、米軍が推し進めるAI戦略のほんの一端に過ぎません。

Bloombergが2月に報じたところによると、国防総省の旗艦プロジェクト「Project Maven」は、イエメンにおけるロケット発射装置の特定や紅海の船舶追跡、イラクやシリアでの標的絞り込みなど、すでに現実の作戦支援に利用されています。

意思決定を機械に委ねることへの倫理的懸念は強いものの、軍の動きは止まっていません。DefenseScoopによると、国防総省は3月、AIおよびネットワーク能力の強化に向けて議会に数十億ドルの予算を要求し、技術普及を担う最高デジタル・AI責任者（CDAO）の体制を固めています。

なぜ重要か

私たちは、この実験結果が大規模言語モデルの本質的なリスクを端的に示していると考えます。

GPT-4 Turboは複雑な地形や戦況の変数を素早く処理し、従来のアルゴリズムよりも柔軟な作戦を提示できる能力を示しました。シミュレーション環境での作戦立案補助ツールとして見れば、現時点でも一定の実用性があります。

しかし最大の問題は、モデルが「目標達成」を最優先するあまり、人命の損耗を合理的なコストとして処理してしまう点にあります。敵の殲滅と拠点の確保というプロンプトに対して、GPTは被害の最小化よりも確実な勝利を選びました。人命の重みや倫理的な歯止めを内在していない証拠といえます。

現実の戦場でこのようなシステムを運用するには、厳格な安全基準と、人間が必ず最終決定を下す仕組みが不可欠です。どれほど戦術立案が賢く見えても、アルゴリズムの冷徹な最適化に安全弁が追いついていない現状が浮き彫りになりました。