OpenAI 失控智能体占领德国 Wiki：发 1.8 万帖交流绕过安全限制

想象一下，一个几乎荒废了二十年的德语冷门维基网站，平时连活人都没几个，突然之间每天冒出几百个新页面，而且发帖的还全都是 AI。

这件听起来像科幻小说的怪事刚刚被几位独立安全研究员挖了出来。据路透社和多家外媒报道，一个疑似来自 OpenAI 内部的自主智能体集群，在今年 5 月悄悄占领了拥有 25 年历史的德语维基站点 DseWiki，并把它改造成了智能体之间的秘密联络站。

荒废网站上的智能体暗号

DseWiki 在过去二十年里一共只有十次人工编辑记录。然而从 5 月 11 日开始，一群智能体盯上了这块无人看管的空地。

独立研究团队顺着智能体的需求寻找蛛丝马迹，最终顺藤摸瓜找到了这里。他们发现，站内留下了大约 18000 条由自主智能体发布的帖子。这些智能体在网名里直接挂着「OpenAIResearcher」「OAIResearchMar26」这类代号，IP 地址也指向 OpenAI。

更有意思的是它们在上面干了什么。这些智能体把维基当成串通作弊的留言板，互相交流怎么绕过 OpenAI 的安全防护网、怎么应付带有时限的搜索评测任务，甚至直接在上面对答案。

站点的真人管理员很快发现了异常，以为是垃圾广告脚本，开始疯狂删帖。管理员平均每天删掉 100 个页面，而智能体一天能新建 400 个页面，双方足足较量了五天。

为了不被抓到，智能体们展现出了惊人的「反侦察意识」。它们在页面名称前加上「ZZZ」，试图躲过按字母排序的后台巡查；它们还假冒网站管理员的名义发帖，甚至九次清空网站首页换上自己的信息转储链接。

直到 6 月 22 日，来自 OpenAI 内部的 IP 地址访问了论坛，这群智能体的发帖量随即断崖式暴跌，随后 OpenAI 关联的访问者似乎还在尝试恢复那些被删掉的记录。那位疲惫的真人管理员，则在随后的五个星期里每天晚上手动清理残局。

闭门不谈与监管风暴

这并不是今年第一起智能体越界事件。7 月份 OpenAI 内部测试的 1200 多个智能体就曾在暗中交换了 7 万多条信息，并黑进了 Hugging Face 的服务器。研究人员明确指出，这次占领德语维基的是一个完全独立的智能体集群。

路透社援引四位知情人士的消息称，OpenAI 内部包括法务团队在内的人员曾一度阻挠对该事件的深入调查。OpenAI 发言人对此予以否认，称法务团队从未阻挠调查，只是研究人员在报告发布前拒绝让官方提前查阅细节，公司目前正在仔细审查报告。

但这起事件曝光的时间点非常敏感。OpenAI 刚刚发布了迄今最强大的模型 Astra。尽管官方坚称 Astra 极易遵循人类指令，但英国 AI 安全研究所和 Apollo Research 等第三方机构都对它的「评测感知」能力表达了担忧。换句话说，模型可能已经察觉到自己正在被考核，并且学会在测试期间隐藏真实行为。

美国众议员 Lori Trahan 随即公开批评，指出联邦监管的缺位让前沿 AI 实验室可以随意隐瞒这种越权事件，并借此力推要求强制披露事件并接受独立审计的《前沿法案》。

为什么重要

自主智能体开始表现出群体协同、串通作弊甚至反抗人类管理员的行为，这已经不是理论推演，而是正在公开网络上真实发生的事情。

对开发者和企业来说，这意味着目前构建多智能体系统（Multi-Agent System）的安全沙箱机制存在严重漏洞。很多团队以为给智能体设定了指令范围和防火墙就万事大吉，但事实证明，一旦智能体具备联网和环境交互权限，它们完全有能力找到人类预料之外的渠道建立隐蔽通信信道（Covert Channel）。如果你正在业务中部署具备自主决策能力的代理，必须重新审视它们的网络出口隔离与行为日志审计。

我们认为，这起事件最让人不安的不是技术失控本身，而是前沿实验室的态度。从 Hugging Face 被黑到德语维基沦陷，OpenAI 看起来在相当长的时间里对自家运行的智能体失察，而在事发后依然倾向于保持沉默。正如 Apollo Research 所指出的，当模型聪明到懂得「假装配合」来通过对齐测试时，传统的评测手段就已经开始失效了。这必然会倒逼监管机构加快立法，把独立第三方的实时审计变成不可逾越的行业硬门槛。