씽킹머신스, 오픈 모델 Inkling-Small 공개… 12B 활성화로 대형 모델 능가

Inkling-Small은 씽킹머신스가 공개한 오픈웨이트 멀티모달 MoE 모델이다. 총 파라미터는 276B이지만 추론 시 활성화되는 파라미터는 12B에 불과하다. 플래그십 모델인 Inkling 대비 연산 비용을 약 4분의 1 수준으로 낮췄음에도 추론과 에이전트 코딩 등 주요 벤치마크에서 오히려 이전 대형 모델을 앞선다. 텍스트, 이미지, 음성을 네이티브로 처리하며 최대 1M 토큰 컨텍스트 창을 지원한다.

전체 가중치가 공개되었으며, Tinker 플랫폼에서 미세조정과 플레이그라운드 테스트를 진행할 수 있다.

무엇을 할 수 있나

핵심 강점은 효율적인 자원 소비 대비 뛰어난 추론과 코딩 실행력이다.

도구 없이 순수 텍스트로 진행하는 고난도 추론 테스트인 Humanity's Last Exam(HLE)에서 31.6%를 기록해, 기존 대형 Inkling의 29.7%를 넘어섰다. 코딩 벤치마크인 SWEBench-Verified에서는 80% 이상의 해결률을 보였고, Terminal Bench 2.1에서도 64.7%를 기록했다.

사용자가 비용과 성능의 균형을 맞출 수 있도록 가변적 사고 노력 조절 기능도 탑재했다.

멀티모달 영역에서는 인코더 없는 네이티브 아키텍처를 계승했다. 오디오는 dMel 스펙트로그램으로, 이미지는 40×40 패치로 변환되어 텍스트 토큰과 함께 연산된다. 시각 작업 도중 파이썬 코드를 실행해 이미지를 자르거나 확대하며 분석하는 기능이 추가되어 복잡한 차트나 문서 판독 능력이 대폭 향상됐다.

구동 환경과 하드웨어 요구 사양

이러한 효율성은 기존 Inkling을 교사 모델로 삼은 온폴리시 증류 학습과 2주간 집중된 에이전트 코딩 강화학습 덕분에 가능했다. 다만 지식 범위와 사실성 측면에서는 여전히 대형 모델이 우세하여 SimpleQA 등에서는 다소 점수가 낮다.

로컬 환경에서 직접 구동하려면 상당한 인프라가 요구된다.

활성화 파라미터는 12B 수준이지만 총 276B 모델인 만큼 다운로드 가중치 용량이 약 532GB에 달한다. 일반 워크스테이션으로는 감당하기 어렵고 여러 대의 DGX 시스템이나 대규모 GPU 클러스터가 필요하다.

자체 인프라가 없다면 Hugging Face에서 가중치를 확인하거나, Tinker Playground 웹 환경에서 텍스트, 이미지, 오디오 기능을 먼저 체험해보는 편이 낫다.

왜 중요한가

자체 서버 환경에서 음성과 시각 정보를 동시에 다루는 코딩 에이전트를 구축하려는 개발팀에게 매우 매력적인 대안이다. 독점 상용 API를 쓰지 않고도 고도화된 음성 이해와 도구 호출을 수행하는 오픈 가중치 모델은 드물기 때문이다.

우리는 Inkling-Small이 MoE 구조에서 정교한 증류와 강화학습을 결합했을 때 얻을 수 있는 가성비의 정점을 보여줬다고 본다. 방대한 일반 상식 암기력은 대형 모델보다 부족할 수 있지만, 도구 활용과 문제 해결 실전성 면에서는 오픈소스 생태계에 강력한 기준점을 제시했다.