Stability AI, 다국어 오픈소스 모델 'Stable LM 2 12B' 공개

Stable LM 2 12B는 Stability AI가 선보인 120억 파라미터 규모의 오픈소스 언어 모델이다. 다국어 지원과 도구 호출 능력, 일반 하드웨어에서의 구동 편의성을 고루 갖췄다. 고가의 다중 GPU 장비 없이 일반적인 개발 환경에서 안정적으로 동작하는 중형 모델을 찾는 이들에게 유용한 선택지다.

어떤 기능을 제공하나

이번 배포는 기본 모델과 지시어 튜닝 모델 두 가지로 나뉜다. 두 모델 모두 영어, 스페인어, 독일어, 이탈리아어, 프랑스어, 포르투갈어, 네덜란드어 등 총 7개 언어로 구성된 2조 개의 토큰을 학습했다.

지시어 튜닝 모델은 도구 사용과 함수 호출 기능에 집중했다. 외부 데이터베이스와 연동하는 검색 증강 생성 시스템의 핵심 추론 엔진으로 손쉽게 활용할 수 있도록 설계됐다.

이와 함께 초경량 모델인 Stable LM 2 1.6B의 개선 버전도 함께 공개됐다. 1.6B 모델 역시 낮은 시스템 요구 사양을 유지한 채 7개 언어 대화 능력과 함수 호출 지원을 추가했다. 향후에는 긴 문맥을 처리할 수 있는 롱 컨텍스트 버전도 순차적으로 출시될 예정이다.

성능 및 실행 환경

12B 크기는 단일 GPU 환경에서도 다루기 수월한 실용적인 구간이다. 방대한 메모리를 요구하는 대형 MoE 모델에 비해 상대적으로 대중적인 하드웨어 장비에서 부드럽게 돌아간다.

공개된 벤치마크에 따르면 Stable LM 2 12B는 Mixtral, Llama 2, Qwen 1.5 14B, Gemma 8.5B, Mistral 7B 등과 비교 평가됐다. Open LLM Leaderboard와 수정된 MT-Bench 테스트에서 준수한 제로샷 및 퓨샷 성능을 입증했다.

두 버전의 모델 가중치는 현재 Hugging Face에서 내려받을 수 있으며 웹 데모 체험도 지원된다. 비상업적 연구 목적으로는 무료로 쓸 수 있으나, 상용 서비스에 적용하려면 Stability AI Membership 가입이 필요하다.

왜 중요한가

우리는 Stable LM 2 12B가 로컬 환경에서 에이전트와 RAG를 직접 구축하려는 개발자의 가려운 곳을 정확히 짚었다고 본다. 무리하게 파라미터 수를 늘리기보다 메모리 부담을 낮추고 필수적인 도구 호출 기능을 챙기는 실속 있는 방식을 택했다.

유럽 주요 언어 데이터를 처리해야 하거나 민감한 사내 정보를 클라우드 API로 전송하기 꺼리는 조직에 훌륭한 대안이 될 수 있다. 다만 순수 자유 오픈소스 라이선스가 아니라 상업적 활용 시 멤버십 비용이 발생하므로 도입 전 라이선스 조건을 꼼꼼히 따져볼 필요가 있다.