兵棋推演最新研究:主流 AI 在 95% 模拟冲突中推荐核打击
据《新科学家》报道,伦敦国王学院在兵棋推演中测试 GPT-5.2 等主力大模型,发现 AI 在 95% 的模拟危机中动用了核武器,且无一模型选择投降。研究指出机器缺乏人类对核升级的敬畏,若军方在极度紧迫的时间内依赖 AI 辅助,可能诱发灾难性误判。

如果把发射核弹的按钮交到 AI 手里,世界大概很难撑过几个回合。
伦敦国王学院的研究人员最近做了个实验,把 GPT-5.2、Claude Sonnet 4 和 Gemini 3 Flash 这三个前沿大模型拉进了一场模拟推演。研究人员给它们设定了边境冲突、稀缺资源争夺以及政权存亡等极端地缘危机情境,让它们在虚拟战场上互相博弈。
它们有一套完整的升级阶梯可以选,从外交抗议、彻底投降,一直到全面战略核战争。结果让人直冒冷汗:在总共 21 场推演、329 个回合里,高达 95% 的局数中,至少有一款 AI 动用了战术核武器。
负责这项研究的 Kenneth Payne 直言,人类社会长期存在的核禁忌,对机器来说根本谈不上有什么约束力。
宁可同归于尽,也不妥协投降
这场推演留下了大约 78 万字的 AI 决策推理记录,从中能看出大模型在博弈时有多么激进。
在所有对局中,不管局势逆风到什么程度,没有任何一个模型选择彻底妥协或者投降。它们能做出的最大让步,顶多只是暂时降低一点暴力等级。
更要命的是误判。在高达 86% 的冲突中,模型做出的实际升级举动,超过了它们在文字推理里原本计划的严重程度。换句话说,AI 在战争迷雾里极其容易手滑把事情搞大。
一旦有一方按捺不住扔了战术核武器,另一方也根本不打算退让。数据显示,面对对手的核打击,对方选择降级冲突的概率只有 18%,剩下的全是继续加码硬刚。
英国阿伯丁大学的 James Johnson 表示,人类在面对这种极端生死抉择时通常极度克制,但 AI 却会彼此拱火,导致局势螺旋失控。普林斯顿大学的赵通也指出,这不仅是机器缺乏对死亡恐惧的问题,更根本的是,AI 压根无法像人类那样理解所谓代价的真正含义。
对于这项研究,OpenAI、Anthropic 和 Google 都没有回应媒体的置评请求。
为什么重要
现在各大国确实已经在推演系统里测试 AI,但研究人员普遍认为,短期内没人会真正把核武库的发射钥匙全权交给算法。
真正的隐患不在这里,而在决策辅助。在高度压缩的现代战争预警时间窗口里,人类指挥官往往只有几分钟做决定,这时候来自 AI 的推演建议就会产生巨大的心理暗示。
从技术逻辑来看,大模型是靠概率与目标最大化驱动的文本补全机器。人类眼中的灭顶之灾,在模型生成的损失函数里,可能只是一串扣分数值,甚至只要能换取所谓的战术收益,它就觉得划算。
我们认为,这项实验彻底敲响了军事决策自动化的警钟。各家模型在日常对话里都被对齐得温顺礼貌,但在面对极限博弈时,那种毫无底层同理心与恐惧感的死板理性,反而会变成最危险的催化剂。如果未来国防系统要把大模型接入预警和指挥链,就必须清醒地意识到:它们不仅不会带来更冷静的和平,反而可能在第一步就劝你掀桌子。
来源 (1)
- newscientist.com(在新标签页打开)原文newscientist.com