3B 에이전트 모델 'Nanbeige 4.2' 공개, 루프 구조로 9B 뛰어넘어

내 컴퓨터에서 실제로 업무를 척척 해내는 AI 에이전트를 구동하려다 보면 늘 딜레마에 부딪힙니다. 일 잘하는 모델은 너무 커서 그래픽카드 메모리가 감당하지 못하고, 보급형 GPU에 들어가는 가벼운 모델은 복잡한 도구 활용 과정에서 금세 엉뚱한 답을 내놓기 일쑤였기 때문입니다.

오픈소스로 공개된 Nanbeige 4.2는 이러한 타협점을 한 단계 끌어올린 소형 에이전트 모델입니다. 비임베딩 파라미터가 3B(30억 개)에 불과하지만, 각종 핵심 벤치마크에서 자신보다 3배 큰 Qwen 3.5 9B는 물론 4배에 달하는 구글 Gemma 4(12B)를 뛰어넘는 성능을 입증했습니다.

신경망을 다시 통과하는 루프 구조의 비밀

Nanbeige 4.2가 체급을 뛰어넘은 핵심 비결은 루프형 트랜스포머(Looped Transformer) 아키텍처에 있습니다.

일반적인 트랜스포머는 데이터를 각 레이어에 한 번씩 차례로 통과시키고 끝냅니다. 반면 Nanbeige는 동일한 레이어 층을 재사용해 데이터를 다시 순환 처리합니다. 별도의 파라미터를 추가로 저장하지 않고도 모델이 더 깊게 연산하고 오랫동안 생각할 수 있도록 만든 것입니다.

연구진은 이 구조를 바탕으로 28조(28T) 토큰 데이터셋에서 바닥부터 사전 학습을 진행했습니다. 3B 모델 전체 용량은 약 8GB 수준에 불과해 대다수 일반 소비자용 GPU에 거뜬히 올라갑니다. 커뮤니티의 반응도 빨라, 관련 리뷰에 따르면 공개 이틀 만에 허깅페이스 다운로드 수 4,000건을 넘어섰습니다.

실전 에이전트 역량을 위해 사후 훈련에도 공을 들였습니다. 실제 환경과 대규모 합성 환경을 아우르는 하이브리드 풀을 구축하고, Think 및 Non-Think 응답 모두에 적용되는 2단계 RLHF를 도입해 환각과 반복 생성을 줄였습니다. 결과와 과정을 함께 평가하는 에이전트 강화학습으로 긴 호흡의 작업 안정성도 잡았습니다. 오픈소스 에이전트 프레임워크인 OpenClaw와 연동하면 로컬 데스크톱 비서로 바로 활용할 수 있습니다.

9B와 12B 경쟁자를 넘어선 실측 결과

성능 지표를 살펴보면 크기 대비 효율이 매우 인상적입니다.

소프트웨어 엔지니어링 벤치마크인 SWE-bench Verified와 SWE-bench Pro, 터미널 환경을 평가하는 Terminal Bench, 그리고 MCP Atlas 및 Claw Eval 등 도구 사용 평가 전반에서 Qwen 3.5 4B는 물론 9B 모델까지 제쳤습니다.

고난도 추론 능력을 측정하는 GPQA Diamond와 Humanity’s Last Exam에서도 12B 규모의 Gemma 4와 대등하거나 앞서는 결과를 보였습니다. 로컬 장비에서 돌아가는 모델 중 파라미터 대비 성능 비율이 가장 뛰어난 축에 듭니다.

왜 중요한가

개인 개발자나 데이터 보안이 중요한 실무자에게 Nanbeige 4.2는 현실적인 로컬 에이전트 대안을 제시합니다. 비싼 클라우드 API를 구독하거나 외부 서버로 민감한 코드와 문서를 전송할 필요 없이, 평범한 소비자용 그래픽카드 한 장으로 코드 수정과 리서치 자동화를 맡길 수 있습니다.

산업 전반으로 보면 무작정 파라미터 덩치를 키우지 않고도 계산 루프를 재사용해 추론 역량을 끌어올리는 영리한 설계가 입증됐습니다. 단말기 내부에서 직접 구동되어야 하는 온디바이스 에이전트의 발전 방향에 중요한 단서를 던진 셈입니다.

우리는 이 접근법이 매우 현명한 타협점이라고 봅니다. 레이어를 반복 통과하는 특성상 토큰 생성 속도가 일반 3B 모델보다 다소 느릴 수 있다는 한계는 있습니다. 하지만 여러 단계의 도구 호출을 수행하는 에이전트 작업에서는 빠르게 오답을 내는 것보다, 몇 초 더 걸리더라도 정확한 실행 결과를 내놓는 편이 훨씬 가치 있습니다.