마이크로소프트, 38억 파라미터 소형 AI 모델 'Phi-3 Mini' 출시

Phi-3 Mini는 마이크로소프트가 공개한 38억 개(3.8B) 파라미터 규모의 초경량 언어 모델입니다. 클라우드 데이터센터에 연결할 필요 없이 사용자의 스마트폰이나 노트북 등 로컬 기기에서 직접 구동되도록 설계되었습니다.

인터넷 연결 없이도 개인 기기 안에서 문서 요약, 코딩 보조, 논리적 추론 같은 작업을 빠르고 안전하게 처리할 수 있습니다.

어떻게 만들어졌나

소형 모델의 한계를 극복하기 위해 마이크로소프트는 인터넷 전체 데이터를 무작위로 긁어모으는 대신, 아이들이 잠자리 동화책을 통해 언어를 배우는 방식에서 힌트를 얻었습니다.

연구진은 3,000개 이상의 엄선된 단어 목록을 바탕으로 대형 모델을 활용해 동화책 스타일의 합성 학습 데이터를 만들었습니다. 단순한 어휘와 명확한 문장 구조로 복잡한 개념을 설명하는 양질의 교재를 만든 셈입니다.

코딩에 집중했던 Phi-1과 기초 추론을 익힌 Phi-2의 뒤를 이어, Phi-3 Mini는 코딩과 추론 능력 모두에서 전작을 뛰어넘는 성과를 냅니다.

성능과 한계

마이크로소프트 애저 AI 플랫폼의 에릭 보이드 부사장은 Phi-3 Mini가 사실상 더 작은 폼팩터로 구현된 GPT-3.5 수준의 성능을 낸다고 설명했습니다. 세바스티앙 부벡 생성형 AI 연구 부사장 역시 기존 10배 크기 모델 대비 운영 비용이 대폭 절감된다고 밝혔습니다.

다만 한계도 뚜렷합니다. 웹 전체 데이터를 방대하게 흡수한 것이 아니기 때문에 일반 상식이나 지식의 폭은 GPT-4 같은 대형 모델을 따라갈 수 없습니다.

따라서 백과사전식 질의응답보다는 특정 명령 수행, 사내 데이터를 활용한 맞춤형 애플리케이션, 기기 내 로컬 보조 도구로 쓸 때 가장 적합합니다.

사용 방법

Phi-3 Mini는 현재 즉시 사용할 수 있습니다. Hugging Face에서 모델 가중치를 직접 내려받거나 Ollama를 통해 로컬 환경에서 명령어 하나로 손쉽게 실행할 수 있습니다. 클라우드 환경이라면 마이크로소프트 Azure에서도 바로 쓸 수 있습니다.

마이크로소프트는 향후 7B 크기의 Phi-3 Small과 14B 크기의 Phi-3 Medium도 순차적으로 선보일 예정입니다.

왜 중요한가

보안 문제로 민감한 데이터를 외부 서버로 보낼 수 없거나, 오프라인 환경에서도 작동하는 앱을 개발하려는 개발자라면 지금 바로 테스트해 볼 가치가 충분합니다. 3.8B 크기는 일반 노트북이나 모바일 프로세서에서도 부담 없이 돌아갑니다.

구글의 Gemma 2B·7B나 메타의 Llama 3 8B와 비교할 때, 정제된 합성 데이터를 앞세운 마이크로소프트의 전략은 소형 모델이 어디까지 똑똑해질 수 있는지 증명해 보였습니다. 무작정 덩치를 키우는 대신 경량화된 실전형 모델을 찾는 이들에게 아주 매력적인 대안입니다.