알리바바, 추론 예산 조절 가능한 하이브리드 AI 'Qwen3' 공개

Qwen3는 알리바바가 공개한 오픈 가중치 기반의 하이브리드 추론 모델 제품군입니다. 0.6B부터 235B 파라미터까지 다양한 크기로 제공되며, 작업 복잡도에 따라 모델의 '사고 예산(Thinking Budget)'을 직접 제어할 수 있는 것이 핵심입니다.

간단한 일상 대화에는 딜레이 없이 즉각 응답하고, 복잡한 코딩이나 수학 문제에는 OpenAI o3처럼 시간을 들여 논리를 검증하는 장기 추론 모드로 전환할 수 있습니다.

사고 예산 조절과 모델 구성

Qwen3의 가장 영리한 점은 사고 모드와 비사고 모드를 매끄럽게 하나로 통합했다는 점입니다. 개발자는 별개의 모델을 따로 배포할 필요 없이, 단일 인터페이스에서 쿼리별로 사고 예산을 할당해 속도와 품질 사이의 균형을 맞출 수 있습니다.

전체 제품군은 2종의 MoE(전문가 혼합) 모델과 6종의 고밀도(Dense) 모델로 나뉩니다. MoE 구조는 복잡한 작업을 작고 특화된 전문가 모듈로 분산 처리해 연산 효율을 크게 끌어올립니다.

학습에는 교재, 코드, 질의응답 데이터 및 합성 데이터를 포함한 36조 개 이상의 토큰이 투입되었으며 119개 언어를 지원합니다. 모델의 순수 추론 능력 외에도 도구 호출(Tool-calling), 지시문 이행, 특정 데이터 서식 복제 능력도 대폭 개선되었습니다.

벤치마크 성능과 공개 현황

벤치마크 결과에 따르면 플래그십 MoE 모델인 Qwen3-235B-A22B는 프로그래밍 경진 플랫폼 Codeforces에서 OpenAI o3-mini와 Google Gemini 2.5 Pro를 앞질렀습니다. 고난도 수학 평가인 최신 AIME 및 BFCL 테스트에서도 o3-mini를 제쳤습니다. 다만 이 235B 플래그십은 아직 일반에 공개되지 않았습니다.

현재 로컬에서 직접 구동해 볼 수 있는 가장 큰 모델은 Qwen3-32B입니다. 이 모델 역시 LiveCodeBench 코딩 벤치마크 등에서 OpenAI o1을 넘어서며, DeepSeek R1과 대등한 경쟁력을 보여줍니다.

대부분의 Qwen3 모델 가중치는 오픈 라이선스로 Hugging Face와 GitHub에 공개되어 바로 내려받을 수 있습니다. 로컬 하드웨어가 여의치 않다면 Fireworks AI나 Hyperbolic 같은 클라우드 호스팅 업체를 통해 API로 호출할 수도 있습니다.

왜 중요한가

자체 AI 에이전트나 코딩 어시스턴트를 구축하려는 개발자라면 Qwen3-32B를 즉시 테스트해 볼 가치가 충분합니다. 독점 폐쇄형 모델의 전유물이었던 가변 추론 메커니즘을 로컬 싱글 워크스테이션에서 감당 가능한 크기로 가져왔기 때문입니다.

하나의 모델 안에서 빠른 응답과 심층 추론을 모두 제어할 수 있어 복잡한 모델 라우팅 파이프라인을 걷어낼 수 있습니다. 235B 초대형 모델이 아직 비공개라는 점은 아쉽지만, 오픈된 32B 모델만으로도 프라이빗 AI 환경 구축의 실용성은 크게 올라갔습니다.