MS, 자체 특화 모델 'MAI' 제품군 공개…GPU 비용 최대 89% 절감

지난 수개월간 AI 업계가 앞다투어 거대 모델의 토큰 소비량을 늘리는 데 몰두했다면, 마이크로소프트는 계산기를 두드리며 비용 다이어트에 들어갔습니다.

사티아 나델라 CEO가 최근 4분기 실적 발표에서 언급했듯, 마이크로소프트는 지난 분기 동안 코딩, 보안, 이미지, 음성, 전사에 걸친 10개 이상의 특화 모델 MAI 시리즈를 주요 제품군에 전면 배치했습니다. 그 결과 실제 서비스 환경에서 GPU 비용을 50%에서 최대 89%까지 절감했다고 밝혔습니다.

90%의 일상 업무는 가벼운 모델로 해결

접근 방식은 명확합니다. 모든 작업에 비싸고 거대한 범용 프론티어 모델을 투입할 이유가 없다는 판단입니다.

이번 주 공개된 MAI-Cyber-1-Flash가 대표적인 사례입니다. 자체 MDASH 프레임워크에 최적화된 이 모델은 보안 벤치마크인 CyberGym에서 96%의 점수를 기록하며 Mythos를 제쳤습니다. 비용은 기존 최상위 옵션의 절반 수준에 불과하며, 범용 H100 장비에서도 원활하게 구동됩니다. 일상적인 보안 업무의 90%는 이 모델이 처리하고, 정말 까다로운 상위 10%의 난제만 가장 비싼 GPT-5.4 같은 모델에 넘기는 구조입니다.

개발자 도구에서도 비슷한 전환이 이뤄졌습니다. 깃허브 코파일럿에는 지난 6월부터 수백만 명의 개발자에게 MAI-Code-1-Flash가 적용되었습니다. VS Code 환경에서 GPT-5.4 Mini 및 Claude Haiku 4.5 대비 코드 채택률이 10% 높았고, 토큰 사용량 중앙값은 10% 적었습니다.

이 체크포인트를 엑셀 강화학습 환경에서 추가 훈련시킨 모델은 일상적인 스프레드시트 작업에서 GPT-5.6과 맞먹는 성능을 내면서도, 최신 가속기 대신 A100이나 H100에서 가볍게 돌아갑니다.

오피스부터 병원 진료실까지 비용 절감

서비스 전반의 비용 지표도 큰 폭으로 개선되었습니다.

이미지 분야에서는 MAI-Image-2.5-Flash가 빙 이미지 크리에이터의 기본 엔진으로 자리 잡았습니다. 파워포인트에서는 기존 GPT-Image-2 대비 GPU 비용을 최대 84% 줄였고, 원드라이브의 핵심 편집 환경에서는 저장 완료율을 26% 높이면서 토큰 효율을 2.5배 개선했습니다.

음성 고객센터도 마찬가지입니다. T-Mobile과 EasyJet 등이 사용하는 다이내믹스 365 콘택트 센터에 MAI-Voice-2-Flash를 도입해 GPU 비용을 최대 89% 낮췄습니다.

의료 현장용 드래곤 코파일럿에는 58개 언어를 지원하는 MAI-Transcribe-1.5가 탑재되었습니다. 지난 분기 17만 명의 의료진이 2,800만 건의 환자 진료에 이를 활용했으며, 전사 및 언어 식별 오류율을 50% 줄였습니다. 자체 AI 칩인 마이아 200과 맞물려 구동할 경우 와트당 성능도 40% 향상됩니다.

왜 중요한가

우리는 마이크로소프트의 이번 행보가 생성형 AI 시장의 실용화 국면을 알리는 매우 현실적이고 똑똑한 전략이라고 봅니다.

기업 고객과 일반 사용자 입장에서의 가치는 즉각적입니다. 고객 상담 센터나 실시간 코드 자동완성, 의료 기록 작성처럼 호출량이 방대한 서비스는 토큰당 단가가 비싸면 사업 자체가 성립하기 어렵습니다. 저비용 고효율 소형 모델이 뒷받침되어야 서비스 지연 시간이 줄고, 기업도 안심하고 대규모 AI 에이전트를 도입할 수 있습니다.

산업 전체로 보면 벤치마크 1위 경쟁에서 시스템 엔지니어링 경쟁으로 판이 바뀌고 있습니다. 마이크로소프트는 기억, 컨텍스트, 실행 환경을 모델 자체와 분리해 특정 LLM을 언제든 부품처럼 갈아 끼울 수 있도록 설계했습니다.

여기에는 명확한 리스크 관리 의도도 엿보입니다. 보안 사고, 상업적 이해관계 충돌, 지정학적 규제로 인해 특정 모델을 쓰지 못하게 될 가능성을 염두에 두어야 한다고 마이크로소프트는 직접 언급했습니다. 겉으로는 오픈AI와의 긴밀한 파트너십을 유지하면서도, 주요 제품의 심장부를 자체 소형 모델로 조용히 대체해 나가는 마이크로소프트의 자립 행보는 업계에 시사하는 바가 큽니다.