미스트랄 AI, '미스트랄 3' 패밀리 전격 공개: 675B MoE 플래그십까지 아파치 2.0 전면 오픈소스화

미스트랄 3(Mistral 3)은 온디바이스 소형 모델부터 초대형 플래그십 MoE까지 아우르는 오픈소스 멀티모달 모델 패밀리입니다. 가장 핵심적인 부분은 전 라인업이 상업적 제약이 없는 완전한 아파치 2.0 라이선스로 배포되어 누구나 가중치를 내려받아 커스텀할 수 있다는 점입니다.

제품군의 최상위 모델은 '미스트랄 라지 3(Mistral Large 3)'입니다. 총 파라미터 675B 중 토큰당 41B만 활성화하는 희소 전문가 혼합(MoE) 구조로 설계되었으며, 256K 컨텍스트 윈도우와 네이티브 이미지 이해, 40개 이상의 언어를 지원합니다. LMArena 벤치마크에서는 오픈소스 비추론 모델 2위, 오픈소스 전체 6위로 데뷔했습니다.

로컬 PC나 엣지 기기용으로는 '미니스트랄 3(Ministral 3)' 시리즈를 선보였습니다. 3B, 8B, 14B 세 가지 크기에 각각 베이스(Base), 인스트럭트(Instruct), 추론(Reasoning) 변형을 제공해 총 9개 모델로 구성되며, 전 모델이 비전 기능을 내장했습니다. 특히 14B 추론 모델은 AIME '25 수학 테스트에서 85%의 정답률을 기록했습니다.

요구 사양과 실행 방법

모델 규모에 따라 하드웨어 요구 조건이 명확하게 갈립니다.

미스트랄 라지 3는 엔비디아, vLLM, 레드햇과의 공동 최적화를 통해 NVFP4 양자화 체크포인트를 제공합니다. 덕분에 vLLM을 활용하면 8개의 A100 또는 H100 GPU가 장착된 단일 노드에서도 원활하게 구동할 수 있습니다. 엔비디아 GB200 NVL72 시스템에서는 기존 H200 대비 최대 10배의 추론 성능 향상을 보입니다.

일반 PC나 단일 GPU 환경이라면 미니스트랄 3가 정답입니다. 9개 모델 모두 단일 GPU에서 실행 가능하며, RTX 탑재 노트북, 엔비디아 젯슨(Jetson) 모듈, DGX 스파크 등에서 네트워크 연결 없이 오프라인으로 배포할 수 있습니다.

현재 허깅페이스에서 가중치를 즉시 내려받을 수 있으며, 오라마(Ollama)와 Llama.cpp를 통해 로컬에서 바로 띄워볼 수 있습니다. 클라우드 환경에서는 미스트랄 AI 스튜디오, 오픈라우터, 파이어웍스, 언슬로스(Unsloth), 투게더 AI, 애저, 아마존 베드록 등에서 사용 가능합니다.

왜 중요한가

메타의 라마 시리즈가 대규모 서비스에 특정 라이선스 제약을 두는 반면, 미스트랄 3는 675B 초대형 모델부터 엣지 모델까지 전부 아파치 2.0으로 풀었습니다. 기업과 개발자 입장에서는 라이선스 리스크 없이 자체 데이터를 활용해 파인튜닝하고 상용화할 수 있는 강력한 대안이 생긴 셈입니다.

저희는 대형 모델보다 미니스트랄 3 라인업의 실용성에 더 주목합니다. 대다수 기업 업무는 값비싼 클라우드 API를 매번 호출할 필요 없이, 단일 GPU나 사내 서버에서 돌아가는 8B·14B 멀티모달 모델을 미세조정하는 것만으로도 충분히 해결되기 때문입니다. 온프레미스 환경에서 안전하게 동작하는 시각 지원 언어모델을 찾고 있다면 지금 바로 테스트해 볼 가치가 충분합니다.