사카나 AI, 여러 모델 협업 추론 알고리즘 'AB-MCTS' 공개

AB-MCTS는 서로 다른 AI 모델들을 추론 단계에서 한 팀으로 묶어 함께 문제를 풀게 만드는 탐색 알고리즘입니다. 단일 모델만으로 해결하기 어려운 복잡한 추론이나 논리 과제를 마주했을 때, 여러 프론티어 모델이 협력하며 시행착오를 거치도록 돕습니다.

정식 명칭은 적응형 분기 몬테카를로 트리 탐색(Adaptive Branching Monte Carlo Tree Search)입니다. 학습 단계에서 모델 가중치를 합치는 대신, 기존의 강력한 모델들을 추론 시점에 결합해 집단 지성을 이끌어내는 방식을 취합니다.

여러 모델을 어떻게 협업시키는가

챗GPT, 제미나, 딥시크 등 최신 모델들은 각기 다른 학습 과정에서 비롯된 강점과 고유한 편향을 가지고 있습니다. AB-MCTS는 이러한 차이를 집단적 문제 해결의 자원으로 활용합니다.

알고리즘의 중심축은 몬테카를로 트리 탐색입니다. 탐색 과정에서 한 모델이 해결책 후보를 제시하면 다른 모델이 이를 검증하거나 확장하며, 트리가 탐색 경로를 유연하게 조율해 막다른 길에 다다랐을 때 다른 모델을 투입합니다.

사카나 AI는 이 연구가 2024년 선보였던 진화적 모델 병합의 연장선에 있다고 설명합니다. 차이점은 모델을 '섞어서 새로 만드는' 방식에서, 이미 강력한 모델들을 '섞어서 활용하는' 방식으로 전환했다는 점입니다.

성능과 오픈소스 공개 현황

추상 추론 능력을 측정하는 ARC-AGI-2 벤치마크 실험에서 사카나 AI는 o4-미니, 제미나 2.5 프로, 딥시크-R1-0528을 함께 투입했습니다. 그 결과 다중 모델 협력 시스템은 세 모델 중 어느 단일 모델보다도 눈에 띄게 높은 성과를 거두었습니다.

알고리즘과 실험 코드는 모두 깃허브에 오픈소스로 공개되었습니다. 핵심 탐색 알고리즘은 TreeQuest 저장소에, ARC-AGI-2 실험 재현 코드는 ab-mcts-arc2 저장소에 올라와 있으며 관련 논문도 arXiv에서 확인할 수 있습니다.

직접 사용해보려면 대상 모델들의 API 키를 준비하고 프로젝트 가이드에 따라 탐색 설정을 구성하면 됩니다.

왜 중요한가

단일 모델의 생각 시간을 늘리는 추론 스케일링이 대세가 된 상황에서, 이 연구는 서로 다른 모델을 엮어 편향을 깨는 현실적인 대안을 보여줍니다. 하나의 모델 안에서 아무리 깊게 사고해도 벗어나기 힘든 맹점을 외부 모델과의 교차 검증으로 풀어낼 수 있기 때문입니다.

고난도 추론 작업이나 자율 에이전트 파이프라인을 구축하는 엔지니어라면 직접 테스트해볼 가치가 큽니다. 여러 모델의 API를 동시에 호출해야 하므로 비용과 지연 시간이 늘어나는 단점은 있지만, 정답률의 한계를 뚫어야 하는 작업에서는 충분히 매력적인 선택지입니다.