캑터스, 22MB 초소형 비전 모델 미라지 공개: 모바일서 74ms 만에 분할·OCR 완료

스마트폰이나 웨어러블 기기에서 비전 AI를 구동하려면 언제나 타협이 필요했습니다. 지연 시간과 보안을 감수하고 클라우드 API를 쓰거나, 기기가 뜨거워지는 것을 감수하며 기가바이트 단위의 온디바이스 모델을 억지로 돌려야 했습니다.

캑터스가 선보인 초경량 비전 모델 '미라지'는 완전히 다른 길을 택했습니다. 파라미터 수는 5130만 개에 불과하며, 독자적인 2비트 양자화를 거쳐 모델 전체 크기를 고화질 사진 한 장 수준인 21.6MB(약 22MB)로 줄였습니다.

무엇보다 처리 속도가 압도적입니다. 삼성 갤럭시 S26의 NPU 환경에서 단 74ms 만에 모든 추론 과정을 끝내며, CPU로만 구동해도 107ms면 충분합니다. 카메라를 사물에 대는 즉시 기기 안에서 모든 분석이 끝나는 셈입니다.

한 번의 패스로 탐지부터 OCR·분할까지 올인원

미라지의 가장 큰 강점은 크기에 어울리지 않는 다재다능함입니다. 보통 가벼운 모델은 객체 탐지나 글자 인식 중 한 가지만 겨우 해내는 경우가 많지만, 미라지는 단 한 번의 패스로 장면의 거의 모든 정보를 뽑아냅니다.

추론 결과는 앱에서 바로 활용할 수 있는 JSON 형태로 정리되어 반환됩니다. 영어, 독일어 등 7개 언어로 지원되는 장면 설명을 비롯해 고정된 분류에 얽매이지 않는 객체 탐지, 물체의 외곽선을 따는 세그멘테이션 마스크, 이미지 속 글자를 읽어내는 OCR 결과가 한 번에 쏟아집니다.

물체 간의 관계를 파악하는 능력도 갖췄습니다. 표지판이 어떤 기둥에 붙어 있는지, 테이블 위에 무엇이 놓여 있는지 등 공간적 연결 고리를 작은 씬 그래프 형태로 구성해 줍니다. 선택지 목록을 주고 사물을 분류하거나 개수를 세게 하는 결정 작업도 손쉽게 처리합니다.

22MB 크기 뒤에 숨은 압축 설계

이 모든 작업을 22MB 크기 안에서 해내기 위해 캑터스는 모델 아키텍처를 영리하게 다듬었습니다.

인코더에는 월시-하다마드 변환과 밴드 합성곱을 결합한 HConvGLU 방식을 도입해 가중치 크기를 일반적인 행렬 대비 약 8분의 1로 줄였습니다. 그러면서도 채널 간 상호작용은 놓치지 않았습니다. 8개 레이어로 이루어진 디코더 역시 앞서 공개된 니들과 휘슬 모델의 가벼운 어텐션 설계를 이어받았습니다.

정밀도 배분도 실용적입니다. 대부분의 행렬은 2비트로 극단적인 압축을 거쳤지만, 임베딩이나 라우팅 같은 핵심 영역은 4비트를 유지하고 주요 합성곱 대역은 16비트 부동소수점으로 남겨둬 인식 성능의 급격한 저하를 막았습니다.

심지어 이들은 미라지가 뽑아낸 JSON 데이터를 6억 파라미터 크기의 소형 언어 모델 Qwen3-0.6B에 넘겨 시각적 질의응답을 수행하는 실험도 진행했습니다. 언어 모델이 픽셀 데이터를 직접 보지 않고도 미라지가 정리한 텍스트 좌표만 읽어 질문에 답할 수 있음을 확인한 것입니다.

왜 중요한가

우리는 미라지가 보여준 방향성이 온디바이스 AI 시장의 가려운 곳을 정확히 긁어줬다고 봅니다.

최근 업계 전체가 모바일 기기에 수십억 파라미터의 거대 멀티모달 모델을 우겨넣는 데 몰두하고 있지만, 스마트 안경이나 로봇, 스마트폰 앱이 현장에서 실제로 필요로 하는 것은 긴 수다가 아니라 '눈앞에 무엇이 어디에 있는가'를 빠르게 알아채는 일입니다. 74ms 만에 정돈된 데이터를 건네주는 22MB짜리 모델은 현업 개발자에게 즉시 적용 가능한 강력한 무기입니다.

물론 한계도 명확합니다. 5130만 파라미터라는 태생적 체급 때문에 복잡한 맥락 추론을 기대하기는 어렵습니다. 캑터스 자체 테스트에서도 미라지가 생성한 추론 과정 텍스트가 최종 답변 정확도를 안정적으로 높여주지 못하는 것으로 나타났습니다. 모호한 상황에서는 여전히 오판 가능성이 큽니다.

그럼에도 불구하고 비전 인식 엔진을 수십 메가바이트 크기의 가벼운 센서처럼 독립시키고, 복잡한 언어 모델과 분리해 연동할 수 있도록 만든 구조는 매우 영리합니다. 엣지 기기의 인공지능이 무조건 거대할 필요는 없다는 점을 훌륭하게 증명해 냈습니다.