알리바바, 'Qwen3.8-Flash' 공개: 125B 규모 오픈 가중치 멀티모달 MoE 모델

알리바바가 압도적인 가성비를 내세운 오픈 가중치 멀티모달 MoE 모델 'Qwen3.8-Flash'를 공개했다. 대규모 호출이 발생하는 애플리케이션이나 코딩 비서, 자율 에이전트 워크플로에 맞춘 도구다.

메인 모델은 125B 파라미터에 51B N-gram 임베딩을 더한 구조지만, 토큰당 활성화되는 파라미터는 6B에 불과하다. 기본 262K, 최대 100만 토큰의 컨텍스트 길이를 지원하며 차세대 Qwen4에 적용될 신규 아키텍처를 미리 탑재했다.

무엇을 할 수 있는가

핵심은 저렴한 연산 비용으로 복잡한 에이전트 코딩과 장기 업무 협업, 멀티모달 작업을 매끄럽게 처리하는 데 있다.

벤치마크에서는 DeepSeek-V4-Flash 및 Claude-Opus-4.6과 맞붙는다. 코딩 성능을 측정하는 SWE-bench Pro, 업무 에이전트 테스트인 CoWorkBench, 실제 도구 활용 능력을 보는 Toolathlon Verified에서 경쟁력을 입증했다.

멀티모달 영역에서도 시각 수학 문제 해결인 MathVision, 모바일 기기 제어인 AndroidWorld, 체화 지능 테스트인 ERQA 등에서 뛰어난 점수를 기록했다.

알리바바의 업무 플랫폼 QwenWork에도 즉시 적용되었다. 개편된 표준 모드는 작업당 토큰 소모량을 75% 줄이면서 생성 속도를 약 두 배로 끌어올렸다.

기술적 특징과 사양

125B 규모의 성능을 가볍게 유지할 수 있는 비결은 어텐션과 레이어 구조의 대대적인 개선에 있다.

과거 맥락 정보를 효율적으로 압축하는 Gated DeltaNet과 경량 인덱서로 관련 문맥만 짚어내는 Qwen Sparse Attention을 엮은 하이브리드 구조를 택했다. 덕분에 긴 문맥을 처리할 때 연산 부담이 크게 준다.

층간 연결에는 Gated Residual을 적용해 학습 안정성을 높였고, 51B 규모의 N-gram 임베딩으로 추가 연산량 없이 모델 용량을 키웠다. 모델 학습에는 Muon 옵티마이저가 쓰였다.

이러한 설계 덕분에 크기가 3배에 달했던 기존 Qwen3.7-Plus 대비 9분의 1 수준의 학습 자원만 쓰고도 코딩과 업무 영역에서 더 나은 성능을 냈다.

내려받기 및 이용 방법

모델 가중치는 허깅페이스와 모델스코프에 완전히 공개되어 있어 누구나 직접 내려받아 구축할 수 있다.

자체 인프라 대신 클라우드로 쓰려면 알리바바의 Model Studio와 Qwen Cloud를 통해 API로 연동하면 된다.

API 가격 책정도 공격적이다. 입력은 100만 토큰당 1위안(약 0.16달러), 출력은 100만 토큰당 3위안(약 0.47달러) 수준이다.

왜 중요한가

긴 문맥을 다루거나 도구 호출 빈도가 높은 에이전트를 개발 중이라면 당장 테스트해 볼 만하다. 6B급 가벼운 연산 자원만으로 플래그십 수준의 코딩과 업무 지능을 끌어다 쓸 수 있기 때문이다.

또한 이번 릴리스는 차기 Qwen4의 방향성을 그대로 보여준다. 희소 어텐션과 저비용 MoE 결합이 안정적으로 검증되면서, 오픈 모델 진영의 장기 문맥 추론 비용은 한층 더 낮아질 것으로 보인다.