미스트랄, 'Mistral Small 4' 공개: 추론·멀티모달·코딩을 하나로 통합

Mistral Small 4는 복잡한 추론, 이미지 멀티모달, 에이전트 코딩을 하나로 합친 오픈소스 대형 언어 모델입니다. 기존에 추론용 Magistral, 멀티모달용 Pixtral, 코딩용 Devstral로 파편화되어 있던 전문 모델들의 강점을 단일 모델에 모두 집약했습니다.

라이선스는 Apache 2.0이며, 256k에 달하는 긴 컨텍스트 윈도우를 기본 지원합니다.

작동 원리와 주요 특징

Small 4의 핵심은 효율적인 MoE(Mixture of Experts) 아키텍처입니다. 전체 파라미터는 119B 규모이며 128개의 전문가 네트워크로 구성되어 있지만, 토큰당 활성화되는 전문가는 4개에 불과합니다. 즉, 토큰당 실제 활성 파라미터는 6B(임베딩 및 출력 레이어 포함 시 8B) 수준입니다.

새롭게 도입된 reasoning_effort 파라미터로 추론 강도를 자유롭게 조절할 수도 있습니다. 일상적인 대화나 간단한 요청에는 none으로 두어 Mistral Small 3.2 수준의 빠른 응답을 얻고, 정밀한 계산이나 코드 분석이 필요할 때는 high로 설정해 깊이 있는 단계별 추론을 수행하게 만듭니다.

속도와 처리량도 대폭 개선되었습니다. 이전 세대인 Mistral Small 3와 비교해 지연 시간 최적화 환경에서 완료 시간이 40% 단축되었고, 처리량 최적화 환경에서는 초당 요청 수가 3배 증가했습니다.

특히 눈에 띄는 부분은 간결한 출력입니다. 벤치마크 결과에 따르면 AA LCR 평가에서 1.6K 글자만으로 0.72점을 기록했는데, 비슷한 성능을 내기 위해 5.8K~6.1K 글자를 쏟아내는 Qwen 모델 대비 3.5~4배 적은 출력량입니다. LiveCodeBench에서도 GPT-OSS 120B보다 20% 적은 출력으로 더 높은 성적을 거두었습니다. 출력이 짧다는 것은 지연 시간 단축과 추론 비용 절감으로 직결됩니다.

하드웨어 요구 사양 및 사용 방법

119B 총 파라미터를 갖춘 만큼 온프레미스 구동에는 고사양 하드웨어가 필요합니다. 최소 배포 사양은 NVIDIA HGX H100 4장, HGX H200 2장 또는 DGX B200 1대이며, 최적의 프로덕션 환경으로는 H100 4장, H200 4장 또는 B200 2대를 권장합니다.

현재 Hugging Face에 모델 가중치가 공개되어 있으며 vLLM, llama.cpp, SGLang, Transformers 생태계에서 즉시 로드할 수 있습니다. 자체 서버가 없다면 Mistral API나 AI Studio에서 호출하거나 build.nvidia.com에서 무료 프로토타입을 테스트할 수 있으며, 기업 환경을 위한 NVIDIA NIM 컨테이너 배포도 지원합니다.

왜 중요한가

문서 시각 분석, 코딩, 복합 추론을 결합한 워크플로를 만들 때 모델을 여러 개 엮지 않고 단일 모델로 끝낼 수 있다는 점이 개발자에게 가장 큰 매력입니다. 필요한 상황에만 추론 강도를 높여 불필요한 컴퓨팅 소모를 막을 수도 있습니다.

특히 불필요하게 긴 생각의 사슬을 늘어놓지 않고 최소한의 토큰으로 정답을 찾아내는 설계는 실무 운영에 매우 유리합니다. 대규모 트래픽을 처리하는 기업 환경에서 토큰 비용과 지연 시간을 현실적으로 아낄 수 있는 실용적인 오픈소스 대안입니다.