오픈소스 AI 새 강자: 아바쿠스 AI, GPT-3.5 능가하는 '스마우그-72B' 공개

스마우그-72B(Smaug-72B)는 AI 스타트업 아바쿠스 AI(Abacus AI)가 공개한 720억 파라미터 규모의 오픈소스 대형 언어 모델이다. 외부 상용 API에 의존하지 않고 온프레미스나 자체 인프라에서 고성능 추론 모델을 구동하려는 개발팀에게 현재 가장 강력한 선택지 중 하나다.

이 모델은 완전히 새로운 사전학습 모델이 아니라, 알리바바의 Qwen 연구팀이 선보였던 Qwen-72B를 기반으로 미세조정한 파생 모델이다. 허깅페이스의 오픈 LLM 리더보드에서 오픈소스 모델 역사상 최초로 종합 평균 80점을 돌파하며 1위에 올랐다.

기능과 벤치마크 결과

공개된 벤치마크에 따르면 스마우그-72B는 기본 모델인 Qwen-72B는 물론, 오픈AI의 GPT-3.5와 미스트랄의 상용 주력 모델인 미스트랄 미디엄(Mistral Medium)을 주요 평가 지표에서 앞섰다.

가장 돋보이는 분야는 복합 추론과 수학적 연산이다. 아바쿠스 AI의 CEO 빈두 레디(Bindu Reddy)는 기존 언어 모델들이 자주 겪는 추론 및 연산 약점을 보완하도록 설계된 독자적 파인튜닝 기술을 적용했으며, 이 덕분에 GSM8K와 같은 수학 벤치마크에서 높은 점수를 기록했다고 설명했다.

인간 수준의 기준점으로 평가받는 90~100점대에는 아직 미치지 못하지만, 가중치가 전면 공개된 모델이 표준 벤치마크에서 대형 테크 기업의 독점 상용 모델을 따라잡았다는 점에서 의미가 크다.

작동 방식과 공개 현황

핵심 경쟁력은 아바쿠스 AI가 개발한 미세조정 기법에 있다. 연구팀은 구체적인 알고리즘을 담은 연구 논문을 조만간 발표할 예정이며, 라마-2 기반 70B 미세조정 모델인 miqu 등 다른 오픈소스 기반 모델에도 해당 기법을 적용할 계획이다.

스마우그-72B의 모델 가중치는 현재 허깅페이스에 무료로 공개되어 누구나 내려받아 분석하고 수정할 수 있다. 개발진은 실제 사용자 블라인드 평가인 LMSYS 챗봇 아레나에도 모델을 제출해 실전 성능을 검증받을 계획이다.

72B 크기의 특성상 비양자화 상태로 구동하려면 엔터프라이즈급 GPU 클러스터가 필요하지만, 4비트나 8비트 양자화 기법을 적용하면 고사양 워크스테이션 환경에서도 자체 테스트가 가능하다.

왜 중요한가

데이터 보안 규제 때문에 상용 API를 쓰기 어려운 기업이나 독자적인 파이프라인을 구축하려는 개발자에게 스마우그-72B는 GPT-3.5를 대체할 만한 강력한 자체 호스팅 후보군이다. 천문학적인 비용이 드는 사전학습 없이도 고도화된 후속 튜닝만으로 상용 수준의 성능을 뽑아낼 수 있음을 보여줬다.

다만 벤치마크 점수가 실제 서비스 환경에서의 복잡한 대화나 예외 처리 능력까지 완벽하게 보장하는 것은 아니다. 실제 프로덕션 워크플로에 적용하기 전에 자체 도메인 프롬프트로 철저한 실증 테스트를 거칠 것을 권한다.