RecursiveMAS: 텍스트 대신 잠재 공간에서 생각하는 AI 에이전트, 토큰 75% 절감

지금의 멀티 에이전트 시스템을 지켜보고 있으면 비효율적인 사내 단체 대화방을 보는 듯한 답답함이 듭니다. 기획 에이전트가 줄글을 길게 쓰면, 비판 에이전트가 그걸 다 읽고 피드백을 장문으로 치고, 실행 에이전트는 맥락을 파악하느라 진땀을 뺍니다. 응답은 한 세월이고 API 토큰 비용은 눈 깜짝할 사이에 불어납니다.

연구진이 공개한 RecursiveMAS는 이런 비효율적인 텍스트 릴레이를 정면으로 뒤집는 재귀적 멀티 에이전트 프레임워크입니다. 핵심 아이디어는 명확합니다. 에이전트끼리 사람 말로 대화하지 말고, 잠재 공간(Latent Space) 안에서 생각 자체를 직접 주고받게 하자는 것입니다.

텍스트 없이 텔레파시로 통하는 에이전트

기존 멀티 에이전트 협업의 가장 큰 병목은 텍스트 변환이었습니다. 모델의 내부 표현을 굳이 자연어 텍스트로 풀어낸 뒤, 다음 에이전트가 그 글자를 다시 임베딩 벡터로 읽어 들이는 불필요한 번역 과정을 매 단계 반복해야 했기 때문입니다.

RecursiveMAS는 시스템 전체를 하나의 잠재 공간 재귀 루프로 통합했습니다. RecursiveLink라는 가벼운 연결 모듈을 도입해 서로 다른 역할을 맡은 에이전트들이 텍스트 디코딩 없이 잠재적 사고 상태를 곧바로 전달하도록 만들었습니다.

전문가들이 모여 말로 떠들지 않고 텔레파시로 아이디어를 주고받으며 생각을 다듬는 모습에 가깝습니다. 계획, 비판, 풀이 에이전트가 침묵 속에서 생각을 반복 순환시키고, 최종 결론이 도출되는 마지막 순간에만 텍스트를 출력합니다.

토큰 75% 아끼고, 생각할수록 똑똑해진다

침묵의 효과는 수치로 바로 드러났습니다. 수학, 과학, 의학, 검색, 코드 생성 등 9개 벤치마크 테스트에서 RecursiveMAS는 기존 텍스트 기반 에이전트 대비 추론 속도를 최대 2.4배 앞당겼고, 토큰 소모량은 최대 75.6%까지 줄였습니다. 평균 정확도 역시 8.3% 상승했습니다.

추론이 깊어질수록 스스로 오류를 바로잡는 능력도 돋보였습니다. 한 수학 문제 테스트에서 1회 차 순환 때는 오답을 냈지만, 2회 차 잠재 루프에서 오류를 스스로 수정했고, 3회 차에는 정답은 물론 설명의 논리까지 훨씬 명확하게 가다듬었습니다.

기존 방식은 대화가 길어질수록 맥락이 꼬여 성능이 떨어지기 일쑤였지만, 이 시스템은 잠재 공간에서 루프를 더 깊게 돌릴수록 추론 품질이 꾸준히 올라갔습니다. 연구팀은 관련 코드와 데이터를 모두 공개한 상태입니다.

왜 중요한가

우리는 자연어가 인간을 위한 인터페이스일 뿐, 신경망과 신경망이 소통하기에는 지나치게 느리고 비효율적인 통신 규격이라는 점을 영리하게 파고들었다고 봅니다.

에이전트별 전문 분업이라는 장점은 그대로 살리면서 텍스트 직렬화로 인한 지연과 비용 낭비를 깔끔하게 걷어냈습니다. 비용 부담 때문에 멀티 에이전트 도입을 망설이던 실무 개발자들에게는 꽤나 매력적인 대안이 될 수 있습니다.

업계 전반으로 봐도 모델 파라미터 크기 경쟁에서 벗어나 추론 단계의 계산량을 늘려 지능을 끌어올리는 인퍼런스 타임 스케일링의 새로운 길을 열었습니다. 작은 모델 여러 개를 잠재 공간에서 순환시키는 방식이 거대 모델의 효율적인 대항마가 될 가능성을 보여준 셈입니다.

다만 해석 가능성이 사라진다는 치명적인 약점은 감안해야 합니다. 기존에는 에이전트 대화 로그를 까보면 어디서 헛소리를 시작했는지 바로 짚어낼 수 있었지만, 전 과정이 잠재 공간 안에서 닫힌 채 돌아가면 중간 과정은 완벽한 블랙박스가 됩니다. 루프 안에서 환각이나 왜곡이 발생했을 때 디버깅하기가 매우 까다롭다는 점은 앞으로 풀어야 할 과제입니다.