알리바바, 오픈 웨이트 멀티모달 모델 'Qwen3.5-397B-A17B' 공개
알리바바 Qwen 팀이 Qwen3.5 시리즈 첫 오픈 웨이트 모델인 'Qwen3.5-397B-A17B'를 공개했다. 스파스 MoE 아키텍처를 기반으로 총 파라미터 397B 중 17B만 활성화하며, Qwen3-Max 대비 최대 19배 빠른 디코딩 처리량을 제공한다. 201개 언어를 지원하며 아파치 2.0 라이선스로 제공된다.

Qwen3.5-397B-A17B는 알리바바 Qwen3.5 시리즈의 첫 번째 오픈 웨이트 모델로, 실제 에이전트 작업을 위해 훈련된 네이티브 멀티모달 모델입니다. 가장 큰 특징은 뛰어난 계산 효율성입니다. 총 3970억(397B) 개의 파라미터를 갖추고 있지만, 스파스 MoE 설계를 통해 추론 시 토큰당 170억(17B) 개의 파라미터만 활성화합니다.
대형 모델을 가볍게 돌리는 구조
대규모 파라미터의 지식 용량과 추론 비용 절감을 동시에 잡기 위해 하이브리드 선형 어텐션과 스파스 MoE 아키텍처를 결합했으며, 대규모 강화학습 환경 스케일링을 거쳤습니다.
알리바바 발표에 따르면 디코딩 처리량은 기존 Qwen3-Max 대비 8.6배에서 최대 19.0배 빨라졌으며, 201개 언어 및 방언을 폭넓게 지원합니다.
배포 라이선스는 아파치 2.0을 따릅니다. 모델 가중치와 코드는 깃허브, 허깅페이스, 모델스코프에서 직접 내려받을 수 있으며, Qwen Chat 웹 인터페이스와 공식 API로도 바로 테스트할 수 있습니다.
왜 중요한가
자체 인프라에서 복합적인 멀티모달 에이전트를 구축하려는 개발팀에게 강력한 선택지입니다. 약 400B급 대형 모델의 추론 품질을 유지하면서도 실제 연산량은 17B 수준으로 낮춰 서빙 비용을 크게 아낄 수 있습니다.
다만 활성화 파라미터가 17B라 해도 397B 전체 가중치를 메모리에 올려두어야 하므로, 여전히 상당한 VRAM과 저장 장치가 필요합니다. 개인 개발자의 소형 로컬 장비보다는 전용 인프라를 갖춘 환경에 알맞은 도구입니다.
출처 (1)
- x.com(새 탭에서 열림)원문x.com