MS, 14B 소형 AI 모델 'Phi-4' 연구 프리뷰 공개

마이크로소프트가 소형 생성형 AI 모델 제품군인 Phi 시리즈의 최신 모델 'Phi-4'를 연구용 프리뷰로 공개했습니다.

이번 Phi-4의 매개변수는 140억 개(14B) 규모입니다. GPT-4o mini, Gemini 2.0 Flash, Claude 3.5 Haiku 등 가볍고 저렴하면서도 성능을 빠르게 끌어올린 업계의 소형 모델들과 직접 맞붙는 체급입니다. 현재는 마이크로소프트의 개발 플랫폼인 Azure AI Foundry에서만 마이크로소프트 연구 라이선스 계약에 따라 제한적으로 접근할 수 있습니다.

합성 데이터로 수학 추론 성능 강화

마이크로소프트는 Phi-4가 이전 세대 모델에 비해 여러 영역에서 개선되었으며, 특히 수학 문제 해결 능력에서 두드러진 향상을 보였다고 밝혔습니다.

이러한 성능 향상의 비결은 데이터 품질입니다. 마이크로소프트는 사람이 작성한 고품질 데이터셋과 더불어 '고품질 합성 데이터셋'을 적극 활용했고, 구체적 내용을 밝히지 않은 사후 훈련 개선 기법을 적용했다고 설명했습니다.

현재 주요 AI 연구소들은 합성 데이터와 사후 훈련 기술에 사활을 걸고 있습니다. 데이터 라벨링 기업 Scale AI의 최고경영자 알렉산드르 왕 역시 목요일 소셜 미디어를 통해 업계가 사전 훈련 데이터의 벽에 도달했다고 언급하며, 인터넷 텍스트 자원이 고갈되고 있다는 최근 분석들을 확인했습니다.

핵심 리더 이탈 후 선보인 첫 모델

Phi-4는 조직 변화 측면에서도 이목을 끌고 있습니다. 이번 출시는 마이크로소프트의 Phi 모델 개발을 이끌었던 핵심 인물인 세바스티앙 부벡 전 AI 부사장이 회사를 떠난 이후 처음 나온 모델입니다. 부벡은 지난 10월 마이크로소프트를 떠나 OpenAI로 이직했습니다.

왜 중요한가

개발자와 기업 입장에서는 인프라 비용과 응답 지연 시간을 줄이면서도 복잡한 작업을 처리할 수 있는 14B급 소형 모델의 가치가 갈수록 커지고 있습니다. Phi-4의 수학 및 논리 추론 능력이 입증된다면 경량화된 엔터프라이즈 에이전트 구축에 유용한 선택지가 될 수 있습니다. 다만 지금은 연구용 라이선스 하에 Azure AI Foundry에서만 제한적으로 열려 있어, 일반 기업이 즉시 상용 서비스에 도입할 수는 없다는 점이 한계입니다.

업계 전반으로 보면, 자연적인 훈련 데이터가 고갈되어 가는 시점에 합성 데이터와 정교한 사후 훈련으로 모델의 지능을 어디까지 끌어올릴 수 있는지를 보여주는 중요한 시험대입니다.

우리는 마이크로소프트가 거대 모델 간의 파라미터 경쟁 대신 실용적인 14B 크기에서 합성 데이터를 정밀하게 조율하는 방향을 택한 점을 긍정적으로 봅니다. 하지만 핵심 연구진의 이탈 이후에도 이 시리즈가 계속해서 강력한 경쟁력을 유지할 수 있을지, 합성 데이터 기반 훈련이 뜻밖의 오류를 유발하지는 않는지는 커뮤니티의 실측을 통해 지켜볼 필요가 있습니다.