양자 기술로 극단적 압축, 멀티버스 ‘초파리·닭의 뇌’ 초소형 AI 모델 공개

인터넷 연결 없이 맥북에서 고성능 추론 AI를 돌리거나, 세탁기 혼자서 사용자의 음성 명령을 알아듣는 시대가 성큼 다가왔습니다.

스페인 산세바스티안의 AI 스타트업 멀티버스 컴퓨팅(Multiverse Computing)이 동물 뇌 크기에서 이름을 딴 초소형 고성능 AI 모델 제품군 '모델 주(Model Zoo)'를 공개했습니다.

이번에 선보인 모델은 파라미터 수가 9400만 개(94M)에 불과한 '슈퍼플라이(SuperFly)'와, 32억 개(3.2B) 파라미터로 추론 능력을 갖춘 '칙브레인(ChickBrain)' 두 가지입니다. 회사 측은 로컬 환경에서 대화, 음성 처리, 추론이 가능한 세계에서 가장 작은 고성능 모델이라고 강조했습니다.

양자물리학에서 빌려온 극단적 압축 기술

멀티버스는 처음부터 모델을 학습시킨 것이 아니라, 기존 오픈소스 모델을 자체 압축 기술로 줄여냈습니다. 슈퍼플라이는 허깅페이스의 온디바이스용 모델인 SmolLM2-135를, 칙브레인은 메타의 Llama 3.1 8B를 압축한 결과물입니다.

핵심은 '컴팩티파이(CompactifAI)'로 불리는 독자적인 알고리즘입니다. 창업자인 로만 오루스(Román Orús) 교수를 비롯한 양자컴퓨팅 물리학 연구진이 개발한 것으로, 일반적인 컴퓨터공학식 가지치기나 양자화보다 훨씬 정교하게 지능 손실을 막아낸다고 설명합니다.

실제로 멀티버스가 공개한 내부 벤치마크에 따르면, 3.2B 크기의 칙브레인은 종합 언어 이해(MMLU-Pro), 수학 문제 해결(Math 500, GSM8K), 고난도 지식 추론(GPQA Diamond) 지표에서 원본 8B Llama 3.1 모델을 소폭 앞질렀습니다.

이들의 목표는 거대 플래그십 모델과의 성능 경쟁이 아닙니다. 스마트워치나 아두이노(Arduino) 같은 초저전력 마이크로컨트롤러에서도 지능형 인터페이스를 구동하는 것입니다. 실제로 94M 크기의 슈퍼플라이는 가전제품에 탑재되어 오프라인 상태에서도 "급속 코스로 돌려줘" 같은 음성 명령을 즉각 처리할 수 있도록 설계되었습니다.

멀티버스는 지난 6월 HP 테크 벤처스와 도시바 등으로부터 1억 8900만 유로를 투자받았으며, 현재 애플, 삼성, 소니 등 주요 하드웨어 제조사들과 도입을 논의 중입니다. 또한 일반 개발자들도 저렴하게 쓸 수 있도록 AWS 호스팅 API로도 제공됩니다.

왜 중요한가

온디바이스 AI의 가장 큰 걸림돌은 비싼 하드웨어가 아니라 지나치게 무거운 모델 용량이었습니다. 모든 기기가 클라우드 API에 의존하게 되면 지연 시간과 데이터 프라이버시 문제, 막대한 서버 비용을 피할 수 없습니다.

우리는 멀티버스가 기초 모델을 직접 만드는 출혈 경쟁을 피해, 모델을 극단적으로 다이어트시키는 '압축 전문 기업'으로 포지셔닝한 점이 매우 영리하다고 봅니다. 일반 개발자나 사용자 입장에서는 고사양 장비 없이 가벼운 노트북에서도 완전히 오프라인으로 작동하는 추론 모델을 손에 쥐게 되는 셈입니다.

다만 원본 8B 모델을 뛰어넘었다는 테스트 수치가 아직 내부 평가에 기반하고 있다는 점은 감안해야 합니다. 또한 94M 수준의 초소형 모델은 정해진 가전 동작이나 질의응답 외의 범용 대화에는 한계가 뚜렷합니다.

하지만 양자물리학 기반의 압축 기술이 모델의 성능을 깎아먹지 않고도 크기를 3분의 1 이하로 줄일 수 있음을 입증한 만큼, 향후 가전 및 사물인터넷(IoT) 업계의 온디바이스 AI 도입 속도는 눈에 띄게 빨라질 것으로 보입니다.