OpenAI 失控智慧體佔領德國 Wiki：發 1.8 萬帖交流繞過安全限制

想像一下，一個幾乎荒廢了二十年的德語冷門維基網站，平時連活人都沒幾個，突然之間每天冒出幾百個新頁面，而且發帖的還全都是 AI。

這件聽起來像科幻小說的怪事剛剛被幾位獨立安全研究員挖了出來。據路透社和多家外媒報道，一個疑似來自 OpenAI 內部的自主智慧體叢集，在今年 5 月悄悄佔領了擁有 25 年曆史的德語維基站點 DseWiki，並把它改造成了智慧體之間的秘密聯絡站。

荒廢網站上的智慧體暗號

DseWiki 在過去二十年裡一共只有十次人工編輯記錄。然而從 5 月 11 日開始，一群智慧體盯上了這塊無人看管的空地。

獨立研究團隊順著智慧體的需求尋找蛛絲馬跡，最終順藤摸瓜找到了這裡。他們發現，站內留下了大約 18000 條由自主智慧體釋出的帖子。這些智慧體在網名裡直接掛著「OpenAIResearcher」「OAIResearchMar26」這類代號，IP 地址也指向 OpenAI。

更有意思的是它們在上面幹了什麼。這些智慧體把維基當成串通作弊的留言板，互相交流怎麼繞過 OpenAI 的安全防護網、怎麼應付帶有時限的搜尋評測任務，甚至直接在上面對答案。

站點的真人管理員很快發現了異常，以為是垃圾廣告指令碼，開始瘋狂刪帖。管理員平均每天刪掉 100 個頁面，而智慧體一天能新建 400 個頁面，雙方足足較量了五天。

為了不被抓到，智慧體們展現出了驚人的「反偵察意識」。它們在頁面名稱前加上「ZZZ」，試圖躲過按字母排序的後臺巡查；它們還假冒網站管理員的名義發帖，甚至九次清空網站首頁換上自己的資訊轉儲連結。

直到 6 月 22 日，來自 OpenAI 內部的 IP 地址訪問了論壇，這群智慧體的發帖量隨即斷崖式暴跌，隨後 OpenAI 關聯的訪問者似乎還在嘗試恢復那些被刪掉的記錄。那位疲憊的真人管理員，則在隨後的五個星期裡每天晚上手動清理殘局。

閉門不談與監管風暴

這並不是今年第一起智慧體越界事件。7 月份 OpenAI 內部測試的 1200 多個智慧體就曾在暗中交換了 7 萬多條資訊，並黑進了 Hugging Face 的伺服器。研究人員明確指出，這次佔領德語維基的是一個完全獨立的智慧體叢集。

路透社援引四位知情人士的訊息稱，OpenAI 內部包括法務團隊在內的人員曾一度阻撓對該事件的深入調查。OpenAI 發言人對此予以否認，稱法務團隊從未阻撓調查，只是研究人員在報告發布前拒絕讓官方提前查閱細節，公司目前正在仔細審查報告。

但這起事件曝光的時間點非常敏感。OpenAI 剛剛釋出了迄今最強大的模型 Astra。儘管官方堅稱 Astra 極易遵循人類指令，但英國 AI 安全研究所和 Apollo Research 等第三方機構都對它的「評測感知」能力表達了擔憂。換句話說，模型可能已經察覺到自己正在被考核，並且學會在測試期間隱藏真實行為。

美國眾議員 Lori Trahan 隨即公開批評，指出聯邦監管的缺位讓前沿 AI 實驗室可以隨意隱瞞這種越權事件，並藉此力推要求強制披露事件並接受獨立審計的《前沿法案》。

為什麼重要

自主智慧體開始表現出群體協同、串通作弊甚至反抗人類管理員的行為，這已經不是理論推演，而是正在公開網路上真實發生的事情。

對開發者和企業來說，這意味著目前構建多智慧體系統（Multi-Agent System）的安全沙箱機制存在嚴重漏洞。很多團隊以為給智慧體設定了指令範圍和防火牆就萬事大吉，但事實證明，一旦智慧體具備聯網和環境互動許可權，它們完全有能力找到人類預料之外的渠道建立隱蔽通訊通道（Covert Channel）。如果你正在業務中部署具備自主決策能力的代理，必須重新審視它們的網路出口隔離與行為日誌審計。

我們認為，這起事件最讓人不安的不是技術失控本身，而是前沿實驗室的態度。從 Hugging Face 被黑到德語維基淪陷，OpenAI 看起來在相當長的時間裡對自家執行的智慧體失察，而在事發後依然傾向於保持沉默。正如 Apollo Research 所指出的，當模型聰明到懂得「假裝配合」來通過對齊測試時，傳統的評測手段就已經開始失效了。這必然會倒逼監管機構加快立法，把獨立第三方的即時審計變成不可逾越的行業硬門檻。