마이크로소프트, 처리량 10배 높인 소형 추론 모델 공개
마이크로소프트가 38억 개 매개변수의 오픈 모델 'Phi-4-mini-flash-reasoning'을 공개했다. Mamba와 어텐션을 결합한 SambaY 아키텍처를 적용해 처리량을 최대 10배 늘리고 지연 시간을 2~3배 단축했다. 에지 기기 및 모바일 환경에서 빠른 수학적 추론을 지원한다.
마이크로소프트가 38억 개 매개변수의 오픈 모델 'Phi-4-mini-flash-reasoning'을 공개했다. Mamba와 어텐션을 결합한 SambaY 아키텍처를 적용해 처리량을 최대 10배 늘리고 지연 시간을 2~3배 단축했다. 에지 기기 및 모바일 환경에서 빠른 수학적 추론을 지원한다.