米Palantirが軍用AI「AIP」を実演、チャットボットで標的攻撃を立案

東欧の最前線を監視する司令室で警報が鳴り響く。担当者が衛星写真とにらめっこするでもなく、上官にホットラインを繋ぐでもなく、画面に立ち上げたのはChatGPTそっくりのチャット画面だった。

これはSFの話ではない。ピーター・ティール率いる米データ分析大手Palantirが公開した、同社の新システム「Palantir Artificial Intelligence Platform（AIP）」のデモ動画のワンシーンだ。機密ネットワーク内でGPT-4などの大規模言語モデルを安全に運用するための防衛向け基盤だという。

チャットで無人機を飛ばし、攻撃手段を相談する

デモで描かれたのは、友軍の近くに敵部隊が集結しているという通知をAIPから受け取ったオペレーターの動きだ。

担当者はチャット画面でAIに部隊編成を推測させ、さらに高解像度の写真が必要だと判断すると、チャット上で指示を出してMQ-9リーパー無人偵察機を発進させる。送られてきた映像から、旧ソ連製のT-80戦車が展開していることが判明した。

次に担当者が「どう対処すべきか」と尋ねると、AIは即座に3つの対抗策を提示した。F-16戦闘機による爆撃、長距離砲による砲撃、そして対戦車ミサイル「ジャベリン」による攻撃だ。

AIは近隣の部隊にジャベリンの在庫が十分にあるかどうかまで自動で確認し、敵の通信妨害まで手配する。担当者がやるべきことは、提示された選択肢を選び、指揮系統へ承認リクエストを送信することだけに見える。

独自モデルではなく、既存LLMの「管理役」に徹する

興味深いのは、Palantirが軍事専用の独自大規模言語モデルを開発したわけではない点だ。同社が提供しているのは、あくまで既存のモデルを安全に動かすための管理環境である。

デモ動画では、FLAN-T5 XLやファインチューニングされたGPT-NeoX-20B、Dolly-v2-12bといったオープンソースモデルや各種カスタムプラグインに対応している様子が示された。

Palantirは安全性を担保する3つの柱をアピールしている。機密ネットワークや戦術端末への展開、各AIが閲覧・実行できる範囲の厳格な制限、そして全操作のデジタルログ記録だ。

だが、大規模言語モデルが抱える最大の問題である「ハルシネーション（幻覚）」について、具体的な技術的解決策は語られていない。動画が提示したのは、抽象的なフレームワークとアクセス制御の仕組みだけだ。

なぜ重要か

膨大なセンサーデータや偵察情報に追われる軍当局にとって、自然言語でドローンを手配し、補給状況まで一括確認できるインターフェースは極めて魅力的だ。判断にかかる時間を劇的に削れる可能性がある。

同社の立ち回りはビジネスとしては非常に巧妙に見える。巨額のコストがかかる基礎モデル開発競争には首を突っ込まず、防衛顧客とのパイプを武器に、安全性を保証する「門番」のポジションを真っ先に抑えにいったからだ。

しかし、戦場におけるリスクはあまりに大きい。「人間が判断の輪に残っている（Human-in-the-loop）」と主張されてはいるものの、実態はAIが並べた選択肢に人間が承認ボタンを押すだけの追認作業になりかねない。モデルが平然と嘘をつく性質を残したまま、攻撃手段の選定をチャットボットに委ねることの危うさは、厳重なアクセス権限の設定だけで防げるものではないと私たちは考える。