앤트로픽, 클로드의 새 기억 체계 공개: '꿈'을 통해 스스로 오류 수정

사람이 잠을 자는 동안 뇌의 해마는 낮 동안의 경험을 되감으며 쓸모없는 기억은 지우고 중요한 지식만 장기 기억으로 넘깁니다. 지금까지의 AI 에이전트에게는 그런 시간이 없었습니다. 대화가 끝나면 완전히 잊어버리거나, 반대로 사소한 기록까지 데이터베이스에 전부 쑤셔 넣어 스스로 과부하에 걸리곤 했습니다.

앤트로픽이 11월 6일 공개한 에이전트 기억 체계 연구는 명확한 해법을 제시합니다. 에이전트의 지능을 결정짓는 것은 얼마나 많이 저장하느냐가 아니라 '무엇을 버려야 하는지 아는 능력', 그리고 작업이 끝난 빈 시간에 과거 기록을 복기하며 오류를 바로잡는 '꿈(Dreaming)' 과정이라는 점입니다.

모든 걸 다 기록하면 오히려 멍청해진다

많은 개발자가 에이전트에게 폴더를 주고 자유롭게 메모하게 만들면 장기 기억 문제가 풀릴 것이라 생각합니다. 앤트로픽은 '포켓몬스터 레드' 게임을 통해 이 가설을 검증했습니다.

이전 세대인 Claude Sonnet 3.7은 전형적인 정보 수집벽을 보였습니다. 마주친 NPC, 주운 아이템, 치른 배틀을 일일이 파일로 만들다 보니 1만 걸음을 걸었을 때 이미 225개 폴더에 413개 파일(약 98만 자)이 쌓였습니다. 하지만 정작 획득한 체육관 배지는 고작 1개였습니다.

게임 상황은 계속 변하는데 지나간 세부 정보를 지나치게 기록하다 보니 메모가 순식간에 낡은 정보가 되어버렸습니다. 1만 걸음 무렵에는 쌓여버린 메모 파일을 만들고 지우느라 17턴 동안 게임은 한 걸음도 진행하지 못했습니다.

반면 Claude Fable 5는 완전히 다른 길을 택했습니다. 같은 1만 걸음 동안 단 10개 파일(약 4만 3천 자)만 유지하면서 배지 4개를 땄습니다. 잔여 골드나 현재 위치처럼 화면에서 즉시 확인할 수 있는 정보는 아예 적지 않았습니다. 대신 '잉어킹 포획에 3번 연속 실패하면 버튼 입력 타이밍을 바꾼다'처럼 스스로 터득한 전략과 규칙만 남겼습니다. Opus 5.5 역시 이처럼 군더더기 없는 메모 관리로 게임을 끝까지 클리어했습니다.

CL-Bench 벤치마크에서도 상위 모델에 '실패한 것만 기록하라'는 식의 엄격한 규칙을 주면 오히려 성능이 떨어졌습니다. 무엇이 중요한지는 모델 스스로 판단하도록 맡겨둘 때 가장 좋은 결과가 나왔습니다.

쉴 때 로그를 복기하며 오류를 고치는 법

선별해서 적는 것만으로는 부족합니다. 처음에 남긴 메모 자체가 틀렸다면 에이전트는 다음 세션에서도 그 거짓 정보를 맹신하게 됩니다.

포켓몬스터 달맞이산 동굴 앞에는 한번 뛰어내리면 돌아갈 수 없는 절벽 함정이 있습니다. Claude는 근처 포켓몬센터의 위치를 동쪽이라고 잘못 기록했고, 자신이 이미 동굴을 통과했다고 착각한 채 절벽 아래로 뛰어내렸습니다. 잘못된 메모를 믿은 Claude는 같은 실수를 세 번 반복하다가 결국 "무한 루프를 도느니 차라리 멈추겠다"며 자포자기했습니다.

여기서 투입된 해결책이 바로 '꿈(Dreaming)'이었습니다. 에이전트가 쉬는 유휴 시간에, 작성된 요약 메모를 실제 대화와 행동이 찍힌 원본 로그(Transcript)와 대조하게 만들었습니다. 변하지 않는 사실인 로그와 비교하자마자 Claude는 위치 오류를 발견해 메모를 고쳤고, 다음 시도에서 무사히 블루시티에 도달했습니다.

꿈 메커니즘은 흩어진 메모를 위키 형태로 엮어내는 데도 쓰입니다. 소프트웨어 기업 Stainless의 내부 문서 35만 건(약 4억 2천만 토큰)을 대상으로 128개 세션에 걸쳐 위키를 구축하게 한 결과, 복합 질문에 대한 정답률이 13%에서 48%로 상승했습니다. 기업 인수합병 관련 다중 문서 질의응답에서도 위키를 활용했을 때 정답률 87%를 기록해 단순 검색(73%)을 크게 앞섰습니다.

왜 중요한가

기존의 장기 기억 구현 방식은 대부분 대화 내용을 벡터 데이터베이스에 무작정 때려 박는 형태였습니다. 그 결과 검색 비용만 눈덩이처럼 불어나고, AI는 과거 자신이 뱉어낸 오답에 갇히는 악순환을 겪었습니다.

앤트로픽의 접근법은 원본 로그, 선별 메모, 구조화 위키, 현재 문맥의 4단계로 역할을 나누고, 가장 무거운 정리 작업을 백그라운드 유휴 시간으로 넘겼습니다. 인간의 수면 메커니즘을 영리하게 모사해 사용자와 상호작용할 때의 지연 시간을 전혀 늘리지 않고도 기억을 다듬을 수 있는 구조입니다.

물론 한계도 명확합니다. 아무리 유휴 시간을 쓴다 해도 결국 모델을 구동하는 데 드는 API와 연산 비용은 고스란히 청구서로 돌아옵니다. 또한 35만 건의 문서 테스트에서 정답률 48%는 이전 대비 큰 도약이지만, 실무 환경에 무작정 믿고 맡기기엔 여전히 절반 이상의 오류가 남아 있습니다.

그럼에도 AI 에이전트의 진화 방향은 명확해졌습니다. 단일 문맥 창의 크기를 수백만 토큰으로 늘리는 무의미한 용량 경쟁을 넘어, 사람처럼 쉴 때 차분히 생각을 정리하고 묵은 실수를 털어내는 에이전트가 앞으로의 주도권을 잡게 될 것입니다.