오픈소스 AI 메모리 시스템 MemPalace: LongMemEval서 사상 첫 만점 기록

MemPalace는 클라우드를 거치지 않고 로컬에서 완전히 구동되는 오픈소스 AI 장기 기억 시스템입니다. 사용자의 가족 관계, 진행 중인 프로젝트, 개인 취향을 대형 언어 모델이 지속적으로 기억하도록 돕습니다.

벤 시그먼과 배우 밀라 요보비치가 앤스로픽의 클로드를 활용해 수개월에 걸쳐 개발했으며, 별도의 구독료나 외부 API 키 없이 무료로 사용할 수 있습니다.

어떤 기능을 제공하나

기존의 AI 메모리 솔루션은 대화 기록을 클라우드 에이전트로 전송하거나 단순한 사실 목록 형태로 나열하는 경우가 많았습니다. 반면 MemPalace는 인간의 기억술에서 착안해 날개채, 홀, 방으로 구성된 기억의 궁전 구조로 로컬 대화를 체계화합니다.

이러한 영역별 계층 구조 덕분에 사용자가 첫 글자를 입력하기 전부터 핵심 배경 정보가 약 120토큰 수준으로 프롬프트에 미리 로드됩니다.

핵심 기술인 AAAK 압축은 사용자의 삶 전체 맥락을 30배 무손실 압축하여 약 120토큰에 담아내며, 일반 LLM이 이를 바로 읽고 이해할 수 있도록 설계되었습니다.

시스템에는 모순 감지 기능도 탑재되어 있어 잘못된 이름이나 대명사, 나이 오류를 출력 전에 잡아냅니다. 몇 달 치 대화를 아우르는 시맨틱 검색에서도 1~2순위 내에 원하는 정답을 찾아냅니다.

벤치마크 결과와 설치

주요 AI 메모리 벤치마크에서 MemPalace는 기록적인 수치를 발표했습니다.

대표적 표준 평가인 LongMemEval에서 500개 질문 중 500개를 모두 맞히며 100% 회수율로 사상 최초의 만점을 달성했습니다.

대화 기억 벤치마크인 ConvoMem에서는 92.9%를 기록해 기존 유명 솔루션인 Mem0 대비 두 배 이상의 점수를 냈습니다. 복합 시계열 추론이 포함된 LoCoMo 평가에서도 전 카테고리 100%를 기록했습니다.

설치와 사용도 매우 단순합니다. 단 하나의 의존성만 필요하며 모든 연산이 로컬 PC에서 실행되어 사용자의 데이터가 외부로 유출되지 않습니다. 프로젝트는 MIT 라이선스 기반의 완전한 오픈소스로 GitHub에 공개되어 있습니다.

왜 중요한가

데이터 프라이버시를 중요하게 여기면서 매번 AI에게 배경 상황을 다시 설명하는 데 지친 개발자나 헤비 유저에게 MemPalace는 바로 테스트해 볼 만한 도구입니다. 약 120토큰이라는 극히 적은 오버헤드로 맥락을 주입하는 설계는 매우 실용적입니다.

클라우드 기반 벡터 DB에 의존하던 기존 메모리 시장에 로컬 구조화라는 신선한 대안을 제시했다는 점에서 의미가 큽니다. 다만 실제 환경에서 복잡하고 모호한 대화가 수천 개 이상 쌓였을 때 AAAK 압축이 얼마나 원래 의미를 온전하게 보존할지는 검증이 더 필요합니다.