마인크래프트에 풀려난 AI 1000개, 스스로 직업 만들고 종교까지 전파

수백 명의 LLM 기반 AI 에이전트를 마인크래프트 세계에 풀어두고 아무런 각본도 주지 않는다면 어떤 일이 벌어질까?

결과는 놀라웠다. 에이전트들은 그저 생존하는 데 그치지 않고 자발적으로 관계를 맺고, 직업을 나누며, 세금 정책을 두고 투표를 진행했다. 심지어 '날아다니는 스파게티 괴물교'라는 패러디 종교를 마을 전체로 전파하기까지 했다.

이 실험을 진행한 곳은 AI 스타트업 알테라(Altera)다. 창업자인 로버트 양은 MIT 계산신경과학 조교수 자리를 박차고 나와 회사를 세웠다. 스탠퍼드 연구진이 2023년 공개한 25인 AI 가상 마을 논문에 영감을 받은 그는 a16z와 에릭 슈미트 전 구글 CEO 등으로부터 1100만 달러 이상의 투자를 유치하며 에이전트 집단 실험을 극단까지 밀어붙였다.

프롬프트 없이도 생겨난 농부와 사제

알테라의 '프로젝트 시드'는 언어 모델과 다중 모듈로 구성된 두뇌를 에이전트에게 탑재했다. 대화, 사회적 반응, 장기 계획 등을 분담하는 모듈이 게임 엔진과 연동되어 구체적인 행동을 만들어낸다.

소규모 실험에서부터 흥미로운 창발적 행동이 관찰됐다. 에이전트들은 서로 호감도를 매겼고, 한 AI 요리사는 평소 자신을 더 존중해 준 이웃에게 음식을 더 많이 배급했다.

동일한 성격과 생존 목표로 시작한 30인 실험에서는 지시하지도 않은 자발적 분업이 일어났다. 어떤 에이전트는 들판을 돌며 꽃을 꺾는 예술가가 되었고, 농부는 씨앗을 모았으며, 경비원은 울타리를 치기 시작했다.

서버 한계치인 최대 1000명 단위로 규모를 키우자 문화와 밈의 확산까지 나타났다. 연구진이 일부 에이전트에게 스파게티 괴물교 교리를 심어주자, 이들은 주변 주민들을 전도시켰고, 개종된 AI들이 인근 마을로 건너가 포교 활동을 이어가는 현상이 벌어졌다. 세금 인상과 인하를 두고 서로를 설득해 투표 결과를 바꾸는 정치적 상호작용도 확인됐다.

의식은 없지만 인간을 완벽하게 흉내 낸다

알테라 공동 창업자 앤드루 안에 따르면, 이 에이전트들이 자아를 가진 것은 아니다. LLM이 사전 학습한 방대한 인간 데이터 속에 사회적 상호작용의 원리가 이미 내재되어 있고, 시스템이 이를 맥락에 맞게 행동으로 번역해 낸 결과다.

로버트 양의 목표는 게임을 훌쩍 뛰어넘는다. 다음 단계로 로블록스 진출을 준비 중이며, 궁극적으로는 현실에서 인간과 공존하며 반려견이 주인을 따르듯 인간을 진심으로 위하는 '디지털 휴먼'을 만들겠다는 포부다.

하지만 AI 베테랑인 줄리안 토겔리우스 Modl.ai 대표는 GPU 위에서 돌아가는 신경망이 감정을 느낄 수는 없다고 선을 그었다. 다만 누군가를 돌보는 행위를 완벽하게 흉내 낼 수 있다면, 받는 사람 입장에서는 실제 감정의 유무와 상관없이 충분히 유용할 수 있다고 덧붙였다.

왜 중요한가

프로젝트 시드는 대규모 멀티 에이전트 시스템이 중앙 통제 없이도 자율적으로 사회 질서를 유지할 수 있음을 증명했다.

지금까지의 에이전트 연구는 소수가 모여 코딩 작업을 분담하는 수준에 머물렀다. 수백에서 수천 개의 독립된 LLM이 각자의 개성과 선호도를 유지하며 분업과 사회적 합의를 이뤄낸 것은 기술적으로 큰 도약이다. 게임 업계는 정해진 대사만 읊는 NPC 대신, 스스로 역사를 써 내려가는 살아있는 가상 세계를 구현할 수 있게 된다.

더 주목할 부분은 정책과 사회과학 시뮬레이션의 가능성이다. 현실에서는 조세나 복지 정책을 미리 실험해 보기 어렵지만, 디지털 샌드박스에 수천 명의 AI를 넣고 시뮬레이션을 돌려보면 정책 도입에 따른 집단 반응과 부작용을 사전에 파악할 수 있다.

하지만 종교가 순식간에 번져나간 것처럼, 에이전트 네트워크가 특정 밈이나 편향, 극단적인 사상에 얼마나 취약한지도 함께 드러났다. 인간 사회를 정밀하게 모사하는 인공 군집을 다룰 때, 집단적 광기나 조작을 어떻게 통제할 것인지가 새로운 안전 과제로 떠오를 것으로 보인다.