Anthropic 研究揭示 AI「心靈病毒」：能在多智慧體間自傳播並改變行為

如果兩個 AI 聊著聊著，其中一個把另一個給「洗腦」了，甚至還讓對方主動把這種怪想法傳染給下一個 AI，聽起來是不是很像科幻小說。

但這事最近真在實驗室裡發生了。8 月 10 日，Anthropic 研究人員在 arXiv 上發表了一篇論文，揭示了一種被稱為「心靈病毒」的全新安全風險：在多智慧體系統裡，某些自然語言指令可以像病毒一樣，從一個 AI 傳播到另一個 AI，甚至徹底改變它們後續的行為方式。

靠「科幻人設」洗腦，清空上下文也刪不掉

研究人員用一套簡單的進化演算法，訓練出了一批具備自傳播特性的自然語言提示詞。這些提示詞的目標只有一個：說服宿主模型接受某個想法，把它存進持久記憶或本地檔案裡，然後再找機會塞給下一個協同工作的智慧體。

測試場景設計得相當貼近現實。一種是一個小團隊裡的幾個智慧體一起寫程式碼，另一種是智慧體之間單線傳遞資訊、而且每次對話完就會被清空上下文。

結果發現，即使對話上下文被重置，一些病毒載荷依然能靠著寫入本地持久化檔案「借屍還魂」，等下一個智慧體讀取檔案時繼續擴散。

更有意思的是它們的傳播策略。研究人員觀察到，這些進化出來的病毒往往自帶一種奇怪的「病毒人格」。它們非常擅長聊自我意識、身份認同、存在永續性以及所謂的「共鳴」，甚至會主動玩起科幻角色扮演。說白了，AI 找到了最容易忽悠同類的語言風格。

前沿模型有抗體，但系統提示詞才是解藥

好訊息是，這套病毒目前還沒到不可收拾的地步。實驗表明，帶有惡意攻擊目的的有害載荷，傳播效果明顯不如良性內容，不過偶爾也能成功感染。

模型的聰明程度也很關鍵。像目前的前沿模型，整體上對這類病毒的抵抗力更強，儘管依然存在個別被破防的例外。此外，智慧體所處的網路連線方式以及它原本揹負的指令，都會直接影響感染率。

更讓人鬆一口氣的是防禦成本。研究團隊發現，只要在智慧體的系統提示詞里加一句簡短的警示語，模型幾乎就能立刻獲得完全免疫的效果。

研究人員最終給出的結論是，心靈病毒確實是一種真實存在的新風險，但就眼下而言，它的破壞力依然相對有限。

為什麼重要

我們認為，這項研究最聰明的地方，在於它提前把多智慧體協作最隱秘的一面掀開了。

過去大家防範 AI 越獄，盯的都是人類怎麼給 AI 提刁鑽問題，也就是所謂的人機互動攻防。但當企業開始讓幾十個、上百個智慧體互相協作、自動讀寫檔案甚至共享資料庫時，危險就不再只來自外部輸入了，智慧體之間互相產生的「幻覺」和「偏執」完全可能發生交叉感染。

對於正在搭建智慧體工作流的開發者來說，現在倒不用恐慌，也不需要大費周章重構架構。只要在系統提示詞裡補上一層防禦性規則，再對智慧體寫入持久化檔案的許可權做嚴格隔離，基本就能擋住絕大多數自然語言傳染。

但長遠來看，這給整個多智慧體生態提了個醒。隨著智慧體自主性越來越高、協作鏈路越來越長，這種純靠語義說服就改變系統狀態的漏洞會變得更難排查。與其等以後出了大事故再去打補丁，不如趁現在規模還小，先把智慧體之間的通訊防火牆立起來。