Altera 实验:千个 AI 智能体在《我的世界》自发分工甚至建宗教
初创公司 Altera 披露在《我的世界》中开展的 Project Sid 实验,多达 1000 个由大模型驱动的智能体在无额外人类干预下,自发形成了职业分工、为税改投票并传播宗教。最值得关注的是,它们展现出复杂的社会群体涌现行为。不过这依然是模型对人类行为模式的高级模仿,AI 并不具备真实意识。
把一千个由大语言模型驱动的 AI 丢进《我的世界》,不给它们剧本,只给一个活下去的初始目标,会发生什么?
答案可能有点超乎想象。它们没有乱成一锅粥,反而自发形成了村落、选出了分工,有人带头讨论要不要收税,甚至还建立起教会,把「飞天面条神教」传遍了整张地图。
这个名为 Project Sid 的实验来自 AI 初创公司 Altera。创始人 Robert Yang 原本是 MIT 计算神经科学的助理教授,去年看到斯坦福那个著名的 25 人「AI 虚拟小镇」研究后大受震撼,半年后直接辞职创业,拿了 a16z 和前 Google CEO Eric Schmidt 旗下基金超过 1100 万美元的投资,就为了把这种群体模拟推向极限。
没教它们当农夫,它们自己抄起了锄头
Altera 给这些智能体设计了模块化的「大脑」。有些模块专门跑大模型,用来负责对话、察言观色和长期规划,再通过系统把决策翻译成游戏里的具体动作。
一开始团队只放了 50 个智能体做测试。游戏里过了 12 天(现实里也就 4 个小时),AI 之间就出现了明显的性格分化。有的成了社交狂魔,到处搭讪;有的非常内向,躲在一边。智能体内部还会互相打好感度,一个 AI 厨师在分发食物时,明显会多分给那些平时更尊重它的人。
在 30 人的对照组里,更神奇的事情发生了。团队给了所有人一模一样的初始设定和生存目标,但它们很快自发演化出了职业体系。想做艺术的 AI 天天在野外采花,卫兵忙着立栅栏防怪,还有人主动当起了农夫和商人。
后来他们把规模拉满到服务器极限的一千人。有人尝试在村子里布道,推销恶搞的「飞天面条神教」。结果这帮 AI 还真听进去了,皈依的信徒甚至主动跑到别的村落去传教,跟真人社会里模因传播的路径几乎一模一样。
它们没有灵魂,但把人类模仿透了
看到这些画面,很容易让人产生一种「AI 诞生自我意识」的错觉。
但 Altera 联合创始人 Andrew Ahn 说得挺直白:这并不是 AI 有了生命,而是大语言模型在吸收了海量人类语料后,本身就内化了一套极其复杂的人类社会行为学模型。只要系统把这些认知模式和环境动作对齐,它们就能展现出惊人的拟真度。
Robert Yang 的野心显然不止于在游戏里看热闹。团队打算下一步把实验搬到 Roblox 上,最终甚至想做出能在现实里陪伴人类的「数字人类」。Yang 还抛出一个挺有争议的观点:他希望未来的 AI 能像小狗爱主人一样,真正懂得「爱人类」。
不过,游戏 AI 测试公司 Modl.ai 的老兵 Julian Togelius 对此泼了盆冷水。他直言,跑在 GPU 上的神经网络没有任何主观体验,谈「爱」纯属天方夜谭。但他承认这种模拟极其逼真,如果一个 AI 能表现得无比关心你,即使它内心空无一物,对很多人来说可能也足够有用了。
为什么重要
Project Sid 最有价值的地方,是证明了多智能体协作在大规模条件下的可行性。
过去的大模型应用大多是一对一问答,或者三五个 agent 互相传递代码。现在 Altera 证明,只要底层模块划分合理,几百上千个 LLM 可以在没有集中调度器的情况下,自发分工并维持一个微型社会的运转。对于游戏开发者来说,这直接打开了下一代动态开放世界的想象空间,NPC 不再是复读机,而是能自己过日子的虚拟住民。
我们认为,更深远的影响在社会科学和经济政策模拟上。以往推行一项新税法或福利政策,很难在真实世界做大规模对照实验。现在你完全可以在沙盒里放进一千个拥有不同利益诉求的 AI,看它们在信息交互后怎么投票、怎么博弈,以此低成本推演政策后果。
不过,隐患也摆在眼前。既然 AI 能在游戏里迅速被「飞天面条神教」同化并主动扩散,说明在开放群体环境中,不良信息、极端情绪或恶意操控同样极易形成级联放大。如何防止大规模自主智能体产生失控的群体极化,大概是接下来谁都绕不开的考题。
来源 (1)
- technologyreview.com(在新标签页打开)原文technologyreview.com