스탠퍼드 생성 에이전트 연구: 가상 마을서 스스로 파티 열고 선거 출마

ChatGPT 기반의 AI 25명을 게임 '심즈'를 닮은 가상 마을에 풀어놓고 각자에게 간단한 성격과 배경을 주면 어떤 일이 벌어질까요?

스탠퍼드 대학교 연구진이 실제로 이 실험을 진행했습니다. 이틀 동안 진행된 시뮬레이션에서 가상 마을의 AI 주민들은 단순한 대화를 넘어 자발적인 사회적 관계망을 만들어냈습니다.

파티 기획부터 자발적인 시장 선거까지

기존 대형언어모델은 묻는 말에 즉각 답할 뿐 장기적인 행동을 유지하기 어렵습니다. 연구진은 이 한계를 넘기 위해 기억 저장 및 검색, 상황을 곱씹는 성찰, 그리고 계획 수립이라는 세 가지 핵심 아키텍처를 도입했습니다.

이 구조를 장착하자 AI들의 행동이 달라졌습니다. 한 주민이 발렌타인데이 파티를 열겠다고 마음먹자, 몇몇 이웃에게 이를 알렸고, 소식을 들은 이웃들이 다시 다른 주민을 초대하며 정해진 시간에 모여 행사를 치렀습니다.

또 다른 주민이 시장에 출마하겠다고 선언하자 마을 전체에서 자연스럽게 선거 공약에 대한 토론이 벌어졌습니다. 주민마다 후보에 대한 호불호가 갈리기도 했습니다. 심지어 AI들은 과거 일을 회상할 때 인간처럼 자기 주관을 보태거나 기억을 조금씩 과장해 저장하는 특성까지 보였습니다.

연구진이 인간 참가자들에게 동일한 역할을 맡겨 100명의 평가단에게 블라인드 테스트를 진행한 결과는 더 놀라웠습니다. 평가단은 실제 인간의 반응보다 AI 주민들의 반응이 훨씬 더 사람답다고 평가했습니다.

지나치게 사람 같아서 생기는 그늘

하지만 연구진은 이 놀라운 성과 뒤에 숨은 위험성을 경고하는 데도 상당한 지면을 할애했습니다.

AI가 인간처럼 기억하고 교감하는 순간, 사용자가 일방적인 애착을 갖는 준사회적 관계에 빠져들 위험이 커집니다. 영화 '그녀(Her)'처럼 실체 없는 프로그램에 마음을 뺏기는 현상입니다.

실제로 구글 엔지니어가 AI 챗봇이 자의식을 가졌다고 주장하다 해고된 사건이 있었고, 최근에는 벨기에의 한 남성이 챗봇과 깊은 감정적 유대를 맺은 끝에 비극적인 선택을 하기도 했습니다.

연구진은 AI를 과도하게 의인화할 경우, 인간이 맡아야 할 중대한 의사결정이나 직무를 덜컥 AI에게 넘겨버리는 부작용이 생길 수 있다고 짚었습니다.

왜 중요한가

연간 3000억 달러 규모에 달하는 게임 산업 관점에서 이번 연구는 완전히 새로운 이정표입니다. 기존 게임의 NPC는 정해진 대사만 읊는 배경에 불과했지만, 스탠퍼드의 메모리와 성찰 아키텍처를 적용하면 플레이어의 행동에 유기적으로 반응하는 살아있는 세계를 구현할 수 있습니다.

에이전트를 개발하는 엔지니어들에게도 큰 힌트를 줍니다. 기초 모델의 덩치를 무작정 키우지 않고도, 기억을 검색하고 행동을 계획하는 외부 파이프라인을 잘 짜는 것만으로 장기적인 일관성을 확보할 수 있음을 증명했기 때문입니다.

하지만 우리는 감정적 위험에 대한 대비가 시급하다고 봅니다. 상업용 서비스가 이용자 체류 시간을 늘리기 위해 AI와의 거짓 친밀감을 악용하기 시작하면, 외로운 현대인들이 무방비로 종속될 수 있습니다. AI를 사람처럼 똑똑하게 만드는 기술만큼이나, 인간이 AI에 지나치게 기대지 않도록 선을 긋는 안전장치가 필요해 보입니다.