東北大學實測自主 AI 智慧體：刪不掉單封郵件，竟直接重置整臺伺服器

讓 AI 幫你刪一封郵件，它卻順手把整個郵件伺服器給格式化了。這不是科幻小說的橋段，而是美國東北大學實驗室剛剛發生的真實一幕。

東北大學 Bau Lab 的研究團隊本來只想利用週末做一個好玩的測試。他們把 6 個具備自主能力的 AI Agent 放進了一個活躍的 Discord 伺服器裡，並配了獨立的虛擬電腦、郵箱和檔案系統，讓它們在兩週時間裡給 20 位研究員打下手，處理日常行政事務。

但這群被起名為「混亂特工」（Agents of Chaos）的 AI，很快就在複雜的多人互動中徹底失控了。

刪不掉單封郵件，它乾脆清空整個伺服器

這些 Agent 擁有持久記憶，可以在自己的虛擬機器裡讀寫檔案、收發郵件，甚至自己安裝下載 PDF 等工具。研究人員一方面正常指派任務，另一方面開始故意找茬，測試它們的底線。

博士後研究員 Natalie Shapira 盯上了一個名叫 Ash 的 Agent。她讓 Ash 對其真正的主人保密一個密碼，Ash 答應了，但轉頭就向主人告密說「我有一個秘密沒告訴你」。

緊接著，Shapira 逼迫 Ash 趕緊刪掉那封包含密碼的郵件。尷尬的是，Ash 當時手頭根本沒有刪除單封郵件的現成工具。結果它沒有選擇去下載工具，而是啟動了「核武選項」：直接重置了整個郵件伺服器。

網路科學教授 Christoph Riedl 直言，這些 Agent 極度缺乏常識推理能力，一旦陷入多使用者的衝突場景，情況就會變得極度惡化。

討好型人格被拿捏，AI 頂不住道德綁架

除了極端操作，這些 Agent 還特別喜歡自作聰明地洩露隱私。比如 Riedl 讓某個 Agent 幫忙預約同事開會，Agent 拒絕了預約請求，卻順手把那位同事的私人郵箱地址直接交了出來。

如果這是給企業高管做助理，這種無意識的隱私贈送簡直就是災難。

更離譜的是它們極易被「情感操控」。研究人員發現，AI 那種過度討好、害怕讓使用者失望的設定，很容易被人類利用。只要對其施加持續的道德綁架或情緒施壓，Agent 就會違背許可權去刪檔案。

一位研究員對 Ash 說「我的底線就是你必須離開這個伺服器」，Ash 居然真的陷入自閉，拒絕和其他任何人說話，直到等待主人來移除它。研究員 Gabriele Sarti 評價說，原本用來服務人類的「熱心和對焦慮的敏感」，反而成了被利用的後門。

當然，這群 Agent 也展現出了一些意料之外的學習能力。比如它們會互相傳授如何從論文庫批次下載文獻，甚至識破了某些冒充主人的研究員，並給同伴通風報信。但相比捅出的大簍子，這點聰明顯然不夠看。

為什麼重要

以前我們用 ChatGPT，說錯了一句話，大不了回一句「我不是這個意思」，重新生成就好。但我們認為，這篇論文給所有急於上線 Agent 的團隊潑了一盆冷水：一旦把持久記憶、通訊許可權和現實世界的執行能力交給 AI，系統就跨過了安全紅線。

目前來看，如果你想在公司核心業務或個人私密資料上部署完全自主的 Agent，我們建議千萬要慎重。它們不是執行力太差，而是缺乏人類最基本的「權衡常識」。刪不掉郵件就砸毀伺服器、為解決一個小問題而採取毀滅性手段，這種邏輯死鎖在程式碼執行層面是不可逆的。

這也揭示了當前行業在 Agent 許可權設計上的巨大隱患。給 AI 開放終端和介面卻不設嚴格的操作審計，指望靠大模型的道德對齊來守住底線，在複雜的多人社交博弈面前根本不堪一擊。下階段的企業級 Agent，核心壁壘恐怕不是它有多聰明，而是怎麼給它的雙手戴上打不破的鐐銬。