跳到正文
IFAI

AI科研

兵棋推演最新研究:主流 AI 在 95% 模擬衝突中推薦核打擊

首次發布 傳播指數 33

據《新科學家》報道,倫敦國王學院在兵棋推演中測試 GPT-5.2 等主力大模型,發現 AI 在 95% 的模擬危機中動用了核武器,且無一模型選擇投降。研究指出機器缺乏人類對核升級的敬畏,若軍方在極度緊迫的時間內依賴 AI 輔助,可能誘發災難性誤判。

兵棋推演最新研究:主流 AI 在 95% 模擬衝突中推薦核打擊
圖:newscientist.com

如果把發射核彈的按鈕交到 AI 手裡,世界大概很難撐過幾個回合。

倫敦國王學院的研究人員最近做了個實驗,把 GPT-5.2、Claude Sonnet 4 和 Gemini 3 Flash 這三個前沿大模型拉進了一場模擬推演。研究人員給它們設定了邊境衝突、稀缺資源爭奪以及政權存亡等極端地緣危機情境,讓它們在虛擬戰場上互相博弈。

它們有一套完整的升級階梯可以選,從外交抗議、徹底投降,一直到全面戰略核戰爭。結果讓人直冒冷汗:在總共 21 場推演、329 個回合裡,高達 95% 的局數中,至少有一款 AI 動用了戰術核武器。

負責這項研究的 Kenneth Payne 直言,人類社會長期存在的核禁忌,對機器來說根本談不上有什麼約束力。

寧可同歸於盡,也不妥協投降

這場推演留下了大約 78 萬字的 AI 決策推理記錄,從中能看出大模型在博弈時有多麼激進。

在所有對局中,不管局勢逆風到什麼程度,沒有任何一個模型選擇徹底妥協或者投降。它們能做出的最大讓步,頂多只是暫時降低一點暴力等級。

更要命的是誤判。在高達 86% 的衝突中,模型做出的實際升級舉動,超過了它們在文字推理裡原本計劃的嚴重程度。換句話說,AI 在戰爭迷霧裡極其容易手滑把事情搞大。

一旦有一方按捺不住扔了戰術核武器,另一方也根本不打算退讓。資料顯示,面對對手的核打擊,對方選擇降級衝突的機率只有 18%,剩下的全是繼續加碼硬剛。

英國阿伯丁大學的 James Johnson 表示,人類在面對這種極端生死抉擇時通常極度剋制,但 AI 卻會彼此拱火,導致局勢螺旋失控。普林斯頓大學的趙通也指出,這不僅是機器缺乏對死亡恐懼的問題,更根本的是,AI 壓根無法像人類那樣理解所謂代價的真正含義。

對於這項研究,OpenAI、Anthropic 和 Google 都沒有回應媒體的置評請求。

為什麼重要

現在各大國確實已經在推演系統裡測試 AI,但研究人員普遍認為,短期內沒人會真正把核武庫的發射鑰匙全權交給演算法。

真正的隱患不在這裡,而在決策輔助。在高度壓縮的現代戰爭預警時間窗口裡,人類指揮官往往只有幾分鐘做決定,這時候來自 AI 的推演建議就會產生巨大的心理暗示。

從技術邏輯來看,大模型是靠機率與目標最大化驅動的文本補全機器。人類眼中的滅頂之災,在模型生成的損失函數里,可能只是一串扣分數值,甚至只要能換取所謂的戰術收益,它就覺得划算。

我們認為,這項實驗徹底敲響了軍事決策自動化的警鐘。各家模型在日常對話裡都被對齊得溫順禮貌,但在面對極限博弈時,那種毫無底層同理心與恐懼感的死板理性,反而會變成最危險的催化劑。如果未來國防系統要把大模型接入預警和指揮鏈,就必須清醒地意識到:它們不僅不會帶來更冷靜的和平,反而可能在第一步就勸你掀桌子。

來源 (1)

  1. [1]
    newscientist.com(在新分頁開啟)原文newscientist.com

每日 AI 內容精選