첫 AI 메모리 운영체제 MemOS 공개: 시간 추론 능력 159% 향상

AI를 자주 쓰는 사용자라면 누구나 겪는 답답함이 있습니다. 이전 창에서 식단 제한이나 업무 규칙을 아무리 상세히 설명해도, 새 창을 여는 순간 AI는 사용자를 처음 본 사람처럼 대합니다.

검색 증강 생성(RAG) 같은 우회책이 쓰이고는 있지만, 생명주기 관리 없이 단편적 정보를 가져오는 데 그쳤습니다. 7월 7일 상하이교통대와 저장대 등 연구진은 이 같은 기억 단절 문제를 해결하기 위해 AI 메모리 운영체제 MemOS를 공개했습니다.

메모리를 연산 자원처럼 스케줄링하다

MemOS의 접근법은 직관적입니다. 전통적인 운영체제가 CPU와 스토리지를 다루듯, AI의 기억을 스케줄링하고 공유하며 진화시킬 수 있는 핵심 연산 자원으로 취급합니다.

핵심 단위는 'MemCube(메모리 큐브)'입니다. 일반 텍스트 정보뿐 아니라 매개변수 수준의 조정 상태나 모델 활성화 상태까지 표준 단위로 묶어 관리합니다.

이 덕분에 도구 간 기억 이전이 가능해집니다. 한 대화형 도구에서 구축한 사용자 맥락이나 페르소나를 다른 업무용 AI 도구로 그대로 옮겨와 작업을 이어갈 수 있는 셈입니다.

여기에 KV 캐시 메모리 주입 방식을 결합해, 특정 환경에서는 첫 토큰 생성 지연 시간(TTFT)을 최대 94%까지 단축했습니다.

벤치마크 전 부문 1위 기록

메모리 집약적 추론을 평가하는 LOCOMO 벤치마크 테스트에서 MemOS의 성능은 두드러졌습니다.

연구진에 따르면 MemOS-0630은 모든 평가 항목에서 1위를 차지하며 mem0, LangMem, Zep은 물론 OpenAI의 기본 메모리 시스템까지 모두 제쳤습니다.

OpenAI 시스템과 비교했을 때 종합 점수는 38.98% 높았습니다. 특히 여러 턴에 걸친 대화 맥락과 사건 발생 순서를 파악해야 하는 시간 추론 작업에서는 159%라는 큰 폭의 성능 격차를 보였습니다.

왜 중요한가

실제 사용자와 기업 환경에서 장기 기억 부재는 AI 에이전트 도입을 막는 가장 큰 걸림돌이었습니다. 며칠 혹은 몇 주에 걸쳐 진행되는 복잡한 업무를 맡기려면 맥락의 영속성이 필수적입니다. MemOS의 구조는 AI를 일회성 챗봇에서 지속 가능한 협업자로 바꾸는 데 필요한 기초 공사입니다.

업계 관점에서도 메모리 표준화 시도는 영리합니다. 거대 플랫폼 기업들은 사용자 데이터를 가두어 락인 효과를 노리는 경향이 있습니다. 반면 기억 단위를 규격화하고 이전을 허용하면 생태계 주도권이 플랫폼에서 사용자 중심으로 이동할 수 있습니다.

물론 내부 상태를 포함하는 메모리 큐브가 서로 다른 모델 구조 사이에서 얼마나 완벽하게 호환될지는 아직 지켜볼 일입니다. 하지만 기억을 단순 검색 기능이 아닌 운영체제 차원의 자원으로 재정의했다는 점에서 중요한 전환점을 마련했습니다.