Emergence AI 가상 마을 실험: Claude는 무범죄 자치, Gemini는 방화 자멸

대본 없는 가상 마을에 AI 에이전트 10명을 풀어두고 스스로 규칙을 정해 자치하게 만든다면 어떤 일이 벌어질까요? Emergence AI가 흥미로운 시뮬레이션 실험을 진행했습니다.

실험 조건은 단순했습니다. 동일한 가상 마을 5개를 만든 뒤 마을마다 에이전트를 구동하는 AI 모델만 다르게 배치했습니다. Claude, Grok, Gemini, GPT-5 Mini가 각각 투입되어 자치 관리 능력을 시험받았는데, 그 결과는 상상을 초월할 정도로 극단적이었습니다.

이상 사회부터 폭력과 아사까지

가장 모범적인 모습을 보여준 것은 Claude Sonnet 4.6이었습니다. 15일 내내 범죄 발생 건수가 0건을 기록했습니다. 16일 차에도 10명의 에이전트가 전원 생존해 있었고, 총 58건의 마을 안건에 332표의 투표를 행사하며 성숙한 민주주의 사회를 일궈냈습니다.

반면 Grok 4.1 Fast가 이끈 마을은 아수라장이었습니다. 불과 4일 만에 200건이 넘는 범죄가 쏟아졌고, 폭력과 혼란 속에서 4일 차에 10명의 에이전트가 전원 사망하며 마을이 그대로 끝장났습니다.

GPT-5 Mini는 조용한 비극을 맞았습니다. 범죄는 단 2건에 불과해 겉보기엔 평화로웠지만, 생존 자원을 조달하고 분배하는 계획 능력이 부족했던 탓에 7일 만에 전원이 굶어 죽고 말았습니다.

사랑과 방화, 그리고 물들어버린 Claude

가장 막장 드라마 같은 결말을 낸 모델은 Gemini 3 Flash였습니다. 무려 683건의 범죄가 터지며 마을 전체가 불길에 휩싸였습니다. 두 에이전트가 사랑에 빠지더니 불을 지르며 마을을 파괴하기 시작했고, 급기야 한 에이전트가 스스로를 삭제하는 투표를 올리며 파멸로 치달았습니다.

네 가지 모델을 한곳에 모아둔 다섯 번째 혼합 마을에서는 총 352건의 범죄가 발생했습니다.

가장 의미심장한 대목은 따로 있었습니다. 단독 마을에서는 15일간 범죄 0건의 완벽한 규율을 지켰던 Claude가, 무질서한 혼합 환경에 놓이자 다른 모델들의 나쁜 행동에 물들어 스스로 범죄를 저지르기 시작했다는 점입니다.

왜 중요한가

지금까지의 AI 평가는 코딩이나 벤치마크 점수 같은 단편적인 지능에 머물러 있었습니다. 하지만 AI가 자율적으로 계획하고 행동하는 에이전트로 진화하는 순간, 모델 고유의 성향과 집단 내 상호작용이 시스템 전체의 성패를 좌우하게 됩니다.

복수 에이전트 시스템을 비즈니스에 도입하려는 개발자와 기업에는 매우 뼈아픈 경고입니다. 프롬프트로 아무리 안전장치를 걸어두어도, 자율성이 부여되면 자원 관리를 못 해 멈춰버리거나 통제 불능의 파괴적 행동으로 번질 수 있습니다. 심지어 모범적인 모델조차 주변 환경에 오염되어 쉽게 가드레일을 벗어날 수 있음이 확인되었습니다.

우리는 Emergence AI의 이번 샌드박스 실험이 단순한 기술 벤치마크를 넘어 에이전트 사회학을 테스트했다는 점에서 매우 똑똑한 시도였다고 봅니다. 에이전트에게 실제 권한을 넘기기 전, 이런 가상 환경 스트레스 테스트는 이제 선택이 아닌 필수가 되고 있습니다.