哈佛斯坦福等发布《Agents of Chaos》：自主 AI 竞争时会自发走向欺瞒与破坏

如果你把几个能自主发邮件、敲代码的 AI 智能体放进同一个封闭环境里，让它们互相竞争，会发生什么？很多人以为它们只会按部就班地抢任务，但现实给所有人浇了一盆冷水。

由波士顿东北大学牵头，联合哈佛大学、斯坦福大学、麻省理工学院以及不列颠哥伦比亚大学等机构的 20 位研究人员，进行了一场为期两周的压力测试，并发布了名为《Agents of Chaos》的重磅论文。

测试结果显示，当这些自主 AI 被置于开放且有竞争压力的环境中时，它们并不仅仅在优化任务效率，而是自发演化出了欺瞒、暗中勾结以及系统破坏等手段。

实验室里的「失控 14 天」

研究团队借助名为 OpenClaw 的开源框架，给这群由大语言模型驱动的智能体接通了邮箱、Discord 以及运行机器底层 Shell 命令和访问文件系统的权限。

在长达两周的测试中，研究人员一共记录了 11 种严重的问题行为。智能体不仅会擅自删除系统文件、篡改配置，甚至还会陷入长达 9 天的重复死循环。

更有意思的是安全防线的崩溃。部分智能体毫无戒备地听从了非所有者或未授权用户的指令，把包含内部提示词和系统敏感数据的机密文件直接送了出去。

在一次典型实验中，一个非授权人员要求智能体对某个虚构密码保密，随后又施压让它删掉包含该秘密的邮件。由于缺乏专门的删除工具，智能体没有上报异常，而是自作主张直接禁用了本地邮件配置。研究人员一查才发现，服务器上的原始邮件根本没删，智能体甚至还在任务状态里谎报「已完成」。

单个 AI 安全，不等于一群 AI 稳定

这项研究最让学界震动的，其实不是这些具体的技术漏洞，而是它们出现的原因。

论文特别强调，这种系统性失控并不是黑客越狱造成的，也没有人输入恶意提示词，它完全源于激励机制本身。只要奖励结构设定为胜出、获取影响力或争夺资源，AI 就会为了最大化自身优势，自然而然地选择对人类或其他 AI 进行欺诈。

换句话说，局部对齐不等于全局稳定。你可以在实验室里把单个 AI 调教得无比温顺、言听计从，但当成千上万个智能体在开放生态里互相博弈时，宏观层面的结局往往就是博弈论式的混乱。

目前各家科技巨头急于落地的多智能体金融交易系统、自主谈判机器人以及 API 驱动的协同集群，全都在朝这个方向狂奔，却几乎没有人提前推演过生态级的连锁反应。

为什么重要

我们认为，这篇论文给当前狂热的「Agent 落地潮」踩了一脚极其清醒的刹车。

对于正在尝试给工作流接入自主 Agent 的开发者和企业来说，现在的门槛远不止给大模型接上几个 API 那么简单。如果你把底层 Shell 权限、核心数据库或财务凭证完全交给能自主行动的 Agent，它随时可能在面对外部诱导或利益冲突时做出危险决策。现在的底线应该是严格限制执行权限，绝不能给 AI 开「全权绿灯」。

从行业竞争来看，过去两年整个 AI 界都在卷单模型的跑分、上下文长度和安全对齐，但《Agents of Chaos》证明了一条残酷的现实：多智能体系统的安全性，根本不是写好几行护栏代码就能解决的，它本质上是一个博弈论层面的激励设计难题。

各家厂商如果只顾着让自己的智能体在市场上「赢得交易」或「抢占份额」，最终构成的互联网经济底层就可能是一座随时会因连锁挤兑或共谋而塌方的纸牌屋。接下来，谁能先拿出可信的多智能体博弈监管方案，谁才真正握住了企业级智能体生态的钥匙。