미스트랄 AI, 첫 코딩 특화 모델 '코드스트랄' 공개…22B 규모

코드스트랄(Codestral)은 미스트랄 AI가 처음으로 선보인 코딩 전용 생성형 AI 모델이다. 22B(220억 파라미터) 크기로 개발되었으며, 코드 자동완성, 테스트 작성, 코드 중간 채우기 등 개발 작업 전반을 돕는다.

지원하는 언어는 80개 이상이다. 파이썬, 자바, C, C++, 자바스크립트, 배시(Bash) 같은 대표적인 언어는 물론 스위프트와 포트란 같은 언어까지 폭넓게 다룬다.

컨텍스트 창은 32k 토큰에 달한다. 기존 코드 모델들이 주로 지원하던 4k에서 16k 한계를 크게 뛰어넘어, 대규모 리포지토리 수준의 긴 코드를 파악하는 능력이 탁월하다.

여기에 코드 중간을 채워 넣는 FIM(Fill-in-the-middle) 기법을 기본 지원한다. 단순히 뒤를 이어 쓰는 방식이 아니라 커서 앞뒤의 문맥을 함께 보고 빈 곳을 메워주기 때문에 에디터 인라인 자동완성에 알맞다.

벤치마크 결과와 도구 연동

코드스트랄은 장문 코드 생성 평가인 RepoBench EM, 파이썬 휴먼이벌(HumanEval), MBPP, SQL 평가인 Spider 등에서 고른 성능을 냈다.

외부 테스트 반응도 긍정적이다. 젯브레인스(JetBrains)의 연구원 미하일 엡티키예프(Mikhail Evtikhiev)는 Kotlin-HumanEval(T=0.2) 벤치마크에서 코드스트랄이 73.75점을 얻어 GPT-4-Turbo의 72.05점과 GPT-3.5-Turbo의 54.66점을 앞섰다고 밝혔다.

개발 도구 생태계와의 결합도 빠르다. Continue.dev와 Tabnine이 VS Code 및 JetBrains 플러그인을 통해 코드스트랄 기반의 인라인 자동완성과 채팅을 지원하기 시작했다.

소스그래프(Sourcegraph)의 코디(Cody) 역시 응답 지연 시간을 줄이기 위해 이 모델을 채택했으며, LlamaIndex와 LangChain도 도구 호출 기반의 코드 에이전트 구축을 지원한다.

라이선스와 사용 방법

코드스트랄의 모델 가중치는 허깅페이스(Hugging Face)에서 내려받을 수 있다.

다만 라이선스를 확인할 필요가 있다. 이번 릴리스에는 미스트랄 AI 비프로덕션 라이선스(Non-Production License)가 적용되어 연구 및 테스트 목적으로만 자유롭게 쓸 수 있다. 상용 제품에 직접 투입하려면 별도의 상용 라이선스 계약을 맺어야 한다.

클라우드로 테스트하고 싶다면 IDE 연동에 최적화된 codestral.mistral.ai 엔드포인트의 8주 무료 베타(대기열 신청)를 활용하면 된다. 토큰 단위 종량제 API는 api.mistral.ai를 통해 제공된다.

왜 중요한가

22B 크기는 실시간 자동완성에 필수적인 빠른 반응 속도와 준수한 코드 품질 사이에서 영리한 균형점을 잡았다. 32k 컨텍스트와 FIM 지원도 에디터 환경에서 개발자가 겪는 답답함을 직접 해결해 준다.

비프로덕션 라이선스로 인해 수익형 서비스에 바로 통합하기 어렵다는 제약은 있다. 하지만 일상적인 코딩에서 더 가볍고 똑똑한 코파일럿 대안을 찾고 있는 개인 개발자라면 8주 무료 베타나 로컬 가중치를 이용해 바로 써볼 가치가 충분하다.