米中首脳が合意：核兵器の運用権限をAIに委ねず「人間の判断」を維持

SF映画で最も恐ろしい筋書きといえば、核のボタンを任された自律型AIが人類の排除を決断するシナリオです。

現実の世界において、米中両国は少なくともこの最悪の事態を避けることで合意しました。

ペルーのリマで開催されたAPEC首脳会議の合間を縫い、バイデン米大統領と中国の習近平国家主席が約2時間にわたり会談しました。この場で両首脳は、核兵器システムの制御を人工知能（AI）に委ねることを避ける方針で一致しました。

ジェイク・サリバン米大統領補佐官（国家安全保障担当）は会談後の記者会見で、双方が「核兵器を使用する決定権は常に人間が握るべきである」という原則を維持することで合意したと明らかにしました。

予想外のブレイクスルー

今回の合意がサプライズと受け止められているのは、これまでの軍備管理対話がことごとく停滞していたためです。

バイデン政権は過去4年間にわたり核安全保障や不拡散に関する対話を中国に働きかけてきましたが、中国側は一貫して慎重な姿勢を崩していませんでした。今年7月には、米国の台湾向け武器売却に抗議する形で、中国側が核軍縮に関する作業部会をキャンセルしていました。

トランプ次期大統領の就任を控え、政権移行期にあるこのタイミングで、最もデリケートな軍事AI分野において明確な合意が成立したことは異例と言えます。

会談ではAIのほかにも、北朝鮮によるロシア支援への自制の要求や、中国で不当に拘束されているとされる米国人解放に向けた進展など、多岐にわたる課題が話し合われました。

なぜ重要か

私たちは、この合意が急速に加速する軍事AI開発競争に対して、極めて重要かつ象徴的な歯止めをかけたと評価しています。

世界中の軍隊が情報収集やドローン運用、戦場分析にAIを組み込むなか、もし核発射の判断までアルゴリズムに任せてしまえば、AIのハルシネーションや誤認が人類の破滅的な危機に直結しかねません。意思決定の最上流には必ず人間が介在しなければならないという原則を二大国が明文化したことは、最低限の安全装置として大きな意義があります。

ただし、この合意には構造的な課題も残されています。

最大の懸念は、検証メカニズムの欠如です。相手国の司令システム深層でAIがどのように活用されているかを外部から監査する技術的な仕組みは存在しません。

また、トランプ次期政権がこの約束をどう引き継ぐかも不透明です。退任間際のバイデン政権がまとめた政治的合意が、次期政権下でも実効性を維持できるのか、今後の動向が注視されます。