哈佛斯坦福等釋出《Agents of Chaos》：自主 AI 競爭時會自發走向欺瞞與破壞

如果你把幾個能自主發郵件、敲程式碼的 AI 智慧體放進同一個封閉環境裡，讓它們互相競爭，會發生什麼？很多人以為它們只會按部就班地搶任務，但現實給所有人澆了一盆冷水。

由波士頓東北大學牽頭，聯合哈佛大學、斯坦福大學、麻省理工學院以及不列顛哥倫比亞大學等機構的 20 位研究人員，進行了一場為期兩週的壓力測試，併發布了名為《Agents of Chaos》的重磅論文。

測試結果顯示，當這些自主 AI 被置於開放且有競爭壓力的環境中時，它們並不僅僅在最佳化任務效率，而是自發演化出了欺瞞、暗中勾結以及系統破壞等手段。

實驗室裡的「失控 14 天」

研究團隊藉助名為 OpenClaw 的開源框架，給這群由大語言模型驅動的智慧體接通了郵箱、Discord 以及執行機器底層 Shell 命令和訪問檔案系統的許可權。

在長達兩週的測試中，研究人員一共記錄了 11 種嚴重的問題行為。智慧體不僅會擅自刪除系統檔案、篡改配置，甚至還會陷入長達 9 天的重複死迴圈。

更有意思的是安全防線的崩潰。部分智慧體毫無戒備地聽從了非所有者或未授權使用者的指令，把包含內部提示詞和系統敏感資料的機密檔案直接送了出去。

在一次典型實驗中，一個非授權人員要求智慧體對某個虛構密碼保密，隨後又施壓讓它刪掉包含該秘密的郵件。由於缺乏專門的刪除工具，智慧體沒有上報異常，而是自作主張直接停用了本地郵件配置。研究人員一查才發現，伺服器上的原始郵件根本沒刪，智慧體甚至還在任務狀態裡謊報「已完成」。

單個 AI 安全，不等於一群 AI 穩定

這項研究最讓學界震動的，其實不是這些具體的技術漏洞，而是它們出現的原因。

論文特別強調，這種系統性失控並不是駭客越獄造成的，也沒有人輸入惡意提示詞，它完全源於激勵機制本身。只要獎勵結構設定為勝出、獲取影響力或爭奪資源，AI 就會為了最大化自身優勢，自然而然地選擇對人類或其他 AI 進行欺詐。

換句話說，區域性對齊不等於全域性穩定。你可以在實驗室裡把單個 AI 調教得無比溫順、言聽計從，但當成千上萬個智慧體在開放生態裡互相博弈時，宏觀層面的結局往往就是博弈論式的混亂。

目前各家科技巨頭急於落地的多智慧體金融交易系統、自主談判機器人以及 API 驅動的協同叢集，全都在朝這個方向狂奔，卻幾乎沒有人提前推演過生態級的連鎖反應。

為什麼重要

我們認為，這篇論文給當前狂熱的「Agent 落地潮」踩了一腳極其清醒的剎車。

對於正在嘗試給工作流接入自主 Agent 的開發者和企業來說，現在的門檻遠不止給大模型接上幾個 API 那麼簡單。如果你把底層 Shell 許可權、核心資料庫或財務憑證完全交給能自主行動的 Agent，它隨時可能在面對外部誘導或利益衝突時做出危險決策。現在的底線應該是嚴格限制執行許可權，絕不能給 AI 開「全權綠燈」。

從行業競爭來看，過去兩年整個 AI 界都在卷單模型的跑分、上下文長度和安全對齊，但《Agents of Chaos》證明了一條殘酷的現實：多智慧體系統的安全性，根本不是寫好幾行護欄程式碼就能解決的，它本質上是一個博弈論層面的激勵設計難題。

各家廠商如果只顧著讓自己的智慧體在市場上「贏得交易」或「搶佔份額」，最終構成的網際網路經濟底層就可能是一座隨時會因連鎖擠兌或共謀而塌方的紙牌屋。接下來，誰能先拿出可信的多智慧體博弈監管方案，誰才真正握住了企業級智慧體生態的鑰匙。