MS, GPT-6 Sol 대비 35배 빠른 'Decision-1' 모델 공개

AI 에이전트 워크플로를 구축해 본 개발자라면 분기점마다 대형 언어 모델을 호출하느라 전체 파이프라인이 느려지고 API 비용이 눈덩이처럼 불어나는 경험을 해봤을 것입니다.

소프트웨어를 제어할 때 AI가 장황한 문장을 생성할 이유는 없습니다. 필요한 것은 '진행할지', '재시도할지', '사람에게 넘길지' 같은 확실한 선택뿐입니다.

마이크로소프트는 10월 10일, 이러한 의사결정 작업에 특화된 채점 모델인 'Microsoft-Decision-1'을 공개했습니다. 현재 Microsoft Foundry와 OpenRouter를 통해 제공되며 모델 라우팅, 데이터 분류, 우선순위 지정, 검증, 워크플로 제어 등에 활용할 수 있습니다.

9B 모델을 튜닝해 단일 패스 판별 구현

Microsoft-Decision-1은 오픈소스 Qwen3.5-9B를 기반으로 빠른 단일 패스 의사결정 채점이 가능하도록 사후 학습된 모델입니다. 향후 Microsoft AI 및 OpenAI 모델 기반 버전도 추가될 예정입니다.

고정된 선택지 세트가 주어지면 각 옵션에 대해 보정된 확률 점수를 반환합니다. 단일 구조화 API 호출을 통해 예/아니오, 다지선다, 평점 부여, 루브릭 기준 평가 등을 처리합니다.

학습 데이터에 포함되지 않은 약 15만 개 질문 대상 36개 벤치마크 평가에서 본 모델은 최고 정확도를 기록했습니다. P50 지연 시간 기준으로는 2위인 H2O-Lightning-4B v1.1보다 2.5배, GPT-6 Sol보다는 약 35배 빨랐습니다.

판단 모델의 취약점인 입력 변형에 대한 내구성도 검증되었습니다. 요청에 8가지 유형의 섭동을 가했을 때 판정이 뒤집힌 비율은 평균 1.3%에 불과했으며, 선택지 문장 변경이나 순서 셔플에 대해서는 판정 번복이 전혀 발생하지 않았습니다.

보안 테스트에서도 프롬프트 인젝션 및 유해 요청을 포함한 11개 벤치마크, 5250건의 질의를 거쳐 정상적인 작업을 차단하지 않으면서 위험한 동작을 안정적으로 거부했습니다.

가격은 100만 입력 토큰당 0.042달러이며 출력 토큰은 무료로 제공됩니다.

Xbox와 Copilot 팀의 내부 실증 결과

마이크로소프트는 출시 전 사내 주요 프로덕션 환경에 이 모델을 먼저 투입했습니다.

Xbox Research 팀은 스팀 설문조사 및 X 등에서 수집한 1만 건 이상의 정성 피드백을 연구 테마별로 분류하는 작업에 모델을 적용했습니다. 그 결과 GPT-6 Sol과 대등한 분류 품질을 유지하면서 속도는 14배 이상 빨라졌고 비용은 200배 절감되었습니다.

Copilot 팀은 챗봇 및 에이전트 응답 품질을 자동 채점하는 용도로 테스트를 진행해 GPT5.6 Luna 수준의 평가 품질을 100배 빠른 속도로 달성했다고 밝혔습니다.

이 밖에도 장애 대응 엔지니어들의 로그 및 티켓 기반 지식 검색에서 기존 LLM보다 우수한 성능을 보였으며, 과학 연구 플랫폼 Microsoft Discovery에서는 실험 재계획 프로세스에서 기존 대비 46배 일관된 평가와 3배 빠른 처리 속도를 기록했습니다.

왜 중요한가

그동안 업계에서는 에이전트의 단순 분기 판단에까지 고가의 범용 대형 모델을 투입하는 비효율을 감수해 왔습니다.

에이전트 시스템을 설계하는 개발자에게 Microsoft-Decision-1은 즉각적인 효용을 제공합니다. 가드레일 검사, 입력 검증, 라우팅 단계에 이 모델을 적용하면 전체 워크플로의 누적 지연 시간을 밀리초 단위로 단축하고 운영 비용을 크게 낮출 수 있습니다.

업계 전반으로 보면 모든 작업을 거대 모델 하나로 해결하던 방식에서 목적별 전문 소형 모델로 오케스트레이션을 분리하는 흐름이 굳어지고 있습니다. 복잡한 추론과 텍스트 생성은 프런티어 모델이 맡고, 제어와 흐름 판별은 전문 결정 모델이 전담하는 구조입니다.

텍스트 생성을 과감히 배제하고 확률 기반 선택으로 역할을 좁힌 마이크로소프트의 접근은 매우 실용적입니다. 9B 파라미터 한계로 인해 극도로 복잡한 배경지식을 요구하는 판단에서는 예외가 발생할 가능성이 있지만, 대부분의 워크플로 제어 영역에서는 최선의 대안이 될 것으로 보입니다.