알리바바, 오픈AI o1 대항 오픈소스 추론 모델 'QwQ-32B' 공개

알리바바 Qwen 팀이 오픈AI의 o1 시리즈에 맞서는 오픈소스 추론 모델 'QwQ-32B-Preview'를 공개했습니다.

복잡한 수학 문제나 논리 퍼즐을 풀 때 곧바로 답을 내놓는 대신, 모델 내부에서 단계별로 추론하고 스스로 검증하는 '테스트 타임 연산' 메커니즘을 적용한 것이 핵심입니다.

무엇을 할 수 있고, 성능은 어느 정도인가

QwQ-32B-Preview는 325억 개(32.5B)의 파라미터를 갖추고 있으며, 최대 약 3만 2000단어(32K)의 컨텍스트를 처리할 수 있습니다.

알리바바의 자체 벤치마크 테스트 결과에 따르면, 이 모델은 대표적인 고난도 수학 평가인 AIME와 MATH에서 오픈AI의 o1-preview를 앞섰으며, o1-mini와 비교해도 주요 지표에서 더 나은 성능을 기록했습니다.

하지만 아직 완성형은 아닙니다. 알리바바는 공식 블로그를 통해 모델이 추론 도중 예기치 않게 언어를 혼용하거나, 동일한 논리 루프에 갇히는 현상, 그리고 일반 상식 수준의 추론 과제에서 성능이 떨어지는 한계가 있다고 솔직히 밝혔습니다.

또한 중국 내 규제 요건에 따라 일부 정치적으로 민감한 질문에는 답변을 거부하는 특징을 보입니다.

라이선스와 실행 환경

이 모델은 AI 개발 플랫폼인 Hugging Face에 공개되었으며, Apache 2.0 라이선스가 적용되어 상업적 프로젝트에서도 활용할 수 있습니다.

32.5B 규모는 초대형 모델에 비해 하드웨어 부담이 훨씬 적어, 양자화를 거치면 개발자가 자체 GPU 환경에서 로컬로 구동하거나 미세 조정하기에 비교적 수월한 크기입니다.

다만 모델 가중치 등 일부 구성 요소만 공개되었고 전체 훈련 데이터나 조리법이 제공된 것은 아니어서, 시스템을 바닥부터 완전히 복제할 수 있는 완전 개방형은 아닙니다.

왜 중요한가

복잡한 코딩이나 수학적 연산 엔진을 구축 중인 개발자라면 당장 내려받아 테스트해 볼 가치가 충분합니다. 이전까지 o1 스타일의 심층 추론은 폐쇄형 API에 의존해야만 접근할 수 있었지만, 이제 자체 인프라에 올려서 쓸 수 있는 오픈소스 대안이 본격적으로 열렸기 때문입니다.

상식 추론이나 언어 안정성 면에서는 여전히 상용 서비스보다 다듬어야 할 부분이 보이지만, 오픈소스 진영이 선두권 폐쇄형 모델의 핵심 해자를 빠르게 좁히고 있음을 분명히 보여줍니다.