Qwen, DeepSeek-R1에 필적하는 추론 모델 'QwQ-32B' 공개

복잡한 추론을 잘하는 AI를 만들려면 반드시 수천억 개 파라미터의 거대 모델이 필요할까요? 알리바바 Qwen 팀이 이에 대한 해답으로 새로운 모델을 내놓았습니다.

Qwen 팀은 3월 5일, 320억 개 파라미터급의 신규 추론 특화 모델인 'QwQ-32B'를 공식 출시했습니다. 전체 파라미터 수는 325억 개(임베딩 제외 310억 개)로, DeepSeek-R1과 오픈AI의 o1-mini 같은 정상급 추론 모델에 필적하는 성능을 낸다고 밝혔습니다.

강화학습 스케일링으로 수학과 코딩 성능 극대화

QwQ는 Qwen 라인업 중에서도 문제 해결을 위해 사고 과정을 단계적으로 전개하는 추론 전용 모델입니다. 이번 모델은 기존 Qwen2.5-32B를 베이스로 구축되었습니다.

사전 훈련 이후 지도 미세조정(SFT)과 강화학습(RL)을 결합한 사후 훈련을 집중적으로 거쳤습니다. 팀은 강화학습의 규모를 지속적으로 확장할 때 수학과 코딩 분야에서 성능 개선 폭이 특히 크며, 중간 크기 모델로도 초대형 MoE 모델과 대등하게 경쟁할 수 있음을 확인했다고 설명했습니다.

구조적으로는 64개 레이어와 함께 RoPE, SwiGLU, RMSNorm, Attention QKV 편향을 적용했으며, 40개의 Q 헤드와 8개의 KV 헤드로 구성된 GQA를 탑재했습니다.

컨텍스트 길이는 최대 131,072 토큰까지 지원합니다. 다만 프롬프트 길이가 8,192 토큰을 넘는 긴 입력의 경우 YaRN 설정을 활성화해야 정상적인 성능을 얻을 수 있습니다.

손쉬운 테스트와 로컬 배포 환경 지원

접근성도 대폭 열어두었습니다.

일반 이용자는 Qwen Chat이나 허깅페이스 스페이스 데모 페이지에서 별도 설정 없이 바로 대화하며 추론 과정을 직접 체험할 수 있습니다.

엔지니어와 기업을 위한 모델 가중치는 허깅페이스와 모델스코어에 공개되었습니다. vLLM, SGLang, 도커(Docker) 기반 서빙을 즉시 지원하며, 트랜스포머 라이브러리 4.37.0 이상 환경이라면 파이썬 코드 몇 줄로 로컬 추론을 시작할 수 있습니다.

왜 중요한가

우리는 QwQ-32B가 고성능 추론 AI의 실행 진입장벽을 실질적으로 크게 낮춘 모델이라고 평가합니다.

DeepSeek-R1 등장 이후 추론 모델에 대한 관심은 폭발적이었지만, 초대형 MoE 모델을 사내 인프라나 온프레미스 환경에 직접 띄우려면 감당하기 힘든 GPU 자원이 필요했습니다.

반면 32B 단일 밀집(Dense) 모델은 고성능 단일 GPU나 적은 대수의 전문 그래픽카드로도 서빙이 가능한 최적의 하드웨어 스위트 스팟에 위치합니다. 보안이 중요한 기업이나 독립 개발자가 데이터 외부 유출 없이 고난도 논리 추론 모델을 직접 호스팅할 수 있게 된 셈입니다.

단순히 파라미터 체급을 키우기보다 강화학습(RL)을 집중 확장해 중간 체급 모델의 한계를 끌어올린 알리바바의 접근은 영리합니다. 물론 사고 과정이 길어지면서 발생하는 응답 지연 시간과 8천 토큰 초과 시 YaRN 튜닝이 필요하다는 점은 해결해야 할 과제입니다. 그럼에도 코딩이나 복잡한 계산을 수행하는 에이전트를 구축 중인 개발팀이라면 지금 당장 테스트해 볼 가치가 충분합니다.