본문으로 건너뛰기
IFAI

AI 모델

스태빌리티 AI, 7B 모델 제친 경량 코딩 모델 ‘Stable Code Instruct 3B’ 공개

게시 확산 지수 47

스태빌리티 AI가 인스트럭션 튜닝을 거친 경량 코딩 모델 'Stable Code Instruct 3B'를 공개했다. 30억 파라미터 크기임에도 코드 완성 및 생성 평가에서 70억 규모의 CodeLlama 7B Instruct를 앞선다. 가중치는 허깅페이스에 공개되었으며 비상업적 용도로 무료 제공된다.

스태빌리티 AI, 7B 모델 제친 경량 코딩 모델 ‘Stable Code Instruct 3B’ 공개
이미지: stability.ai

스태빌리티 AI가 공개한 Stable Code Instruct 3B는 기존 Stable Code 3B를 기반으로 지시어 튜닝을 거친 경량 코드 언어 모델입니다. 30억 파라미터 크기임에도 자연어 대화를 통해 코드 생성, 자동 완성, 수학적 추론, 소프트웨어 개발 관련 질의응답을 매끄럽게 처리합니다.

무엇을 할 수 있나

이 모델은 단순한 코드 완성 도구를 넘어섭니다. 정밀한 인스트럭션 튜닝을 거쳐 개발자의 복잡하고 미묘한 자연어 요청을 정확히 파악해 실행합니다.

2023년 스택 오버플로 개발자 설문 조사를 바탕으로 파이썬, 자바스크립트, 자바, C, C++, Go 등 활용도가 높은 핵심 언어를 집중 학습했습니다. SQL, PHP, 러스트(Rust)도 지원 대상에 포함되어 있습니다.

주목할 점은 초기 학습 데이터에 없었던 루아(Lua) 같은 언어에서도 높은 성능을 발휘한다는 점입니다. 기본 프로그래밍 원리를 이해하고 이를 다양한 환경에 응용하는 능력을 갖췄기 때문으로 분석됩니다.

코드 생성 외에도 중간 빈칸 채우기(FIM), 데이터베이스 쿼리 작성, 코드 간 언어 변환 및 코드 해설 등 실무 개발에 필요한 다양한 작업을 폭넓게 지원합니다.

체급을 뛰어넘는 벤치마크 성능

가장 큰 장점은 압도적인 가성비입니다.

여러 프로그래밍 언어를 평가하는 Multi-PL 벤치마크에서 Stable Code Instruct 3B는 파라미터가 두 배 이상 큰 CodeLlama 7B Instruct를 모든 언어에서 앞질렀습니다. 13억 규모의 DeepSeek-Coder Instruct 1.3B 역시 여유 있게 따돌렸습니다.

소프트웨어 엔지니어링 관련 평가에서는 150억 파라미터 규모인 StarChat 15B에 필적하는 성능을 기록했습니다.

30억 파라미터에 불과한 작은 크기 덕분에 값비싼 고사양 GPU 서버 없이도 일반 데스크톱이나 로컬 개발 장비에서 부담 없이 구동할 수 있습니다.

다운로드 및 라이선스

모델 가중치와 관련 코드는 허깅페이스에 완전 공개되었으며, 상세한 벤치마크가 담긴 기술 보고서도 함께 배포되었습니다.

비상업적 연구나 개인 프로젝트 목적이라면 누구나 무료로 내려받아 사용할 수 있습니다. 다만 상업적 서비스에 도입하려면 스태빌리티 AI 멤버십에 가입해야 합니다.

왜 중요한가

자체 소스 코드를 외부 클라우드에 전송하기 부담스러운 개인 개발자나 소규모 팀에게 매우 매력적인 대안입니다. 고사양 장비 없이도 로컬 환경에서 7B 모델 이상의 코딩 보조 성능을 빠르고 가볍게 누릴 수 있기 때문입니다.

품질 높은 데이터와 지시어 튜닝을 결합하면 3B 크기의 소형 모델도 체급을 뛰어넘는 성능을 낼 수 있음을 잘 보여줍니다. 다만 상용 서비스 적용 시 멤버십 라이선스 비용이 발생하는 만큼, 상용화를 염두에 둔 팀이라면 도입 전 라이선스 조건을 미리 검토해 볼 필요가 있습니다.

출처 (1)

  1. [1]
    stability.ai(새 탭에서 열림)원문stability.ai

매일 AI 콘텐츠 픽