미스트랄 AI, 첫 추론 모델 '마지스트랄' 공개: 24B 오픈소스와 기업용 모델 지원

미스트랄 AI가 다단계 논리 전개와 투명한 사고 과정을 위해 설계된 첫 추론 모델 패밀리 '마지스트랄(Magistral)'을 선보였습니다. 이번 출시는 오픈소스 모델인 24B 크기의 Magistral Small과 엔터프라이즈 환경을 위한 고성능 Magistral Medium 두 가지로 구성됩니다.

모델 가중치와 함께 훈련 인프라 및 강화학습 알고리즘을 담은 연구 논문도 함께 공개되었습니다.

기능과 벤치마크 성능

기존 추론 모델들의 고질적인 단점은 영어 이외의 언어에서 논리 구조가 무너지기 쉽다는 점이었습니다. 마지스트랄은 영어뿐만 아니라 프랑스어, 스페인어, 독일어, 이탈리아어, 아랍어, 러시아어, 중국어 간체 등 다양한 언어에서 네이티브 생각 사슬을 직접 전개합니다.

수학 추론 벤치마크인 AIME2024에서 엔터프라이즈 모델인 Magistral Medium은 단일 실행 73.6%, 64회 다수결 투표 시 90%의 정답률을 기록했습니다.

오픈소스로 풀린 24B 크기의 Magistral Small 역시 단일 실행 70.7%, 다수결 투표 시 83.3%라는 뛰어난 수치를 보여줍니다.

또한 미스트랄의 챗봇 서비스인 Le Chat에서 새로운 Think 모드와 Flash Answers 기능을 켜면 다른 경쟁 모델 대비 최대 10배 빠른 토큰 생성 속도로 실시간 추론 결과를 얻을 수 있습니다.

다운로드 및 사용 방법

자체 인프라에 모델을 배포하려는 개발자라면 Magistral Small을 바로 내려받을 수 있습니다. Apache 2.0 라이선스로 배포되어 상업적 이용과 수정이 자유로우며, 허깅페이스(mistralai/Magistral-Small-2506)에서 오픈 가중치를 제공합니다.

더 높은 성능을 원하는 경우 Le Chat 웹 프리뷰나 La Plateforme API를 통해 Magistral Medium을 테스트할 수 있습니다.

클라우드 환경의 경우 아마존 세이지메이커에 이미 출시되었으며, 추후 IBM 왓슨x, 애저 AI, 구글 클라우드 마켓플레이스에도 차례로 지원될 예정입니다.

왜 중요한가

그동안 뛰어난 추론 성능을 가진 모델들은 대부분 폐쇄형 거대 모델에 집중되어 있어 사내 온프레미스 구축이나 데이터 보안이 필수적인 분야에서 도입하기 어려웠습니다. 미스트랄이 24B라는 현실적인 크기의 추론 모델을 오픈소스로 완전히 공개하면서 규제 산업이나 독립 개발자들의 선택지가 크게 넓어졌습니다.

비영어권 언어를 아우르는 네이티브 사고 지원과 빠른 추론 속도를 결합한 전략은 매우 실용적입니다. 로컬 환경에서 감사 가능하고 정교한 추론 에이전트를 구축하려는 팀이라면 즉시 테스트해볼 만한 가치가 충분합니다.