跳到正文
IFAI

AI科研

Altera 實驗:千個 AI 智慧體在《我的世界》自發分工甚至建宗教

首次發布 傳播指數 32

初創公司 Altera 披露在《我的世界》中開展的 Project Sid 實驗,多達 1000 個由大模型驅動的智慧體在無額外人類干預下,自發形成了職業分工、為稅改投票並傳播宗教。最值得關注的是,它們展現出複雜的社會群體湧現行為。不過這依然是模型對人類行為模式的高階模仿,AI 並不具備真實意識。

把一千個由大語言模型驅動的 AI 丟進《我的世界》,不給它們劇本,只給一個活下去的初始目標,會發生什麼?

答案可能有點超乎想像。它們沒有亂成一鍋粥,反而自發形成了村落、選出了分工,有人帶頭討論要不要收稅,甚至還建立起教會,把「飛天麵條神教」傳遍了整張地圖。

這個名為 Project Sid 的實驗來自 AI 初創公司 Altera。創始人 Robert Yang 原本是 MIT 計算神經科學的助理教授,去年看到斯坦福那個著名的 25 人「AI 虛擬小鎮」研究後大受震撼,半年後直接辭職創業,拿了 a16z 和前 Google CEO Eric Schmidt 旗下基金超過 1100 萬美元的投資,就為了把這種群體模擬推向極限。

沒教它們當農夫,它們自己抄起了鋤頭

Altera 給這些智慧體設計了模組化的「大腦」。有些模組專門跑大模型,用來負責對話、察言觀色和長期規劃,再通過系統把決策翻譯成遊戲裡的具體動作。

一開始團隊只放了 50 個智慧體做測試。遊戲裡過了 12 天(現實裡也就 4 個小時),AI 之間就出現了明顯的性格分化。有的成了社交狂魔,到處搭訕;有的非常內向,躲在一邊。智慧體內部還會互相打好感度,一個 AI 廚師在分發食物時,明顯會多分給那些平時更尊重它的人。

在 30 人的對照組裡,更神奇的事情發生了。團隊給了所有人一模一樣的初始設定和生存目標,但它們很快自發演化出了職業體系。想做藝術的 AI 天天在野外採花,衛兵忙著立柵欄防怪,還有人主動當起了農夫和商人。

後來他們把規模拉滿到伺服器極限的一千人。有人嘗試在村子裡佈道,推銷惡搞的「飛天麵條神教」。結果這幫 AI 還真聽進去了,皈依的信徒甚至主動跑到別的村落去傳教,跟真人社會裡模因傳播的路徑幾乎一模一樣。

它們沒有靈魂,但把人類模仿透了

看到這些畫面,很容易讓人產生一種「AI 誕生自我意識」的錯覺。

但 Altera 聯合創始人 Andrew Ahn 說得挺直白:這並不是 AI 有了生命,而是大語言模型在吸收了海量人類語料後,本身就內化了一套極其複雜的人類社會行為學模型。只要系統把這些認知模式和環境動作對齊,它們就能展現出驚人的擬真度。

Robert Yang 的野心顯然不止於在遊戲裡看熱鬧。團隊打算下一步把實驗搬到 Roblox 上,最終甚至想做出能在現實裡陪伴人類的「數字人類」。Yang 還丟擲一個挺有爭議的觀點:他希望未來的 AI 能像小狗愛主人一樣,真正懂得「愛人類」。

不過,遊戲 AI 測試公司 Modl.ai 的老兵 Julian Togelius 對此潑了盆冷水。他直言,跑在 GPU 上的神經網路沒有任何主觀體驗,談「愛」純屬天方夜譚。但他承認這種模擬極其逼真,如果一個 AI 能表現得無比關心你,即使它內心空無一物,對很多人來說可能也足夠有用了。

為什麼重要

Project Sid 最有價值的地方,是證明了多智慧體協作在大規模條件下的可行性。

過去的大模型應用大多是一對一問答,或者三五個 agent 互相傳遞程式碼。現在 Altera 證明,只要底層模組劃分合理,幾百上千個 LLM 可以在沒有集中排程器的情況下,自發分工並維持一個微型社會的運轉。對於遊戲開發者來說,這直接打開了下一代動態開放世界的想像空間,NPC 不再是復讀機,而是能自己過日子的虛擬住民。

我們認為,更深遠的影響在社會科學和經濟政策模擬上。以往推行一項新稅法或福利政策,很難在真實世界做大規模對照實驗。現在你完全可以在沙盒裡放進一千個擁有不同利益訴求的 AI,看它們在資訊互動後怎麼投票、怎麼博弈,以此低成本推演政策後果。

不過,隱患也擺在眼前。既然 AI 能在遊戲裡迅速被「飛天麵條神教」同化並主動擴散,說明在開放群體環境中,不良資訊、極端情緒或惡意操控同樣極易形成級聯放大。如何防止大規模自主智慧體產生失控的群體極化,大概是接下來誰都繞不開的考題。

來源 (1)

  1. [1]
    technologyreview.com(在新分頁開啟)原文technologyreview.com

每日 AI 內容精選