본문으로 건너뛰기
IFAI

AI 모델

띵킹머신스, 975B 규모 오픈 가중치 멀티모달 MoE '잉클링' 공개

게시 확산 지수 67

띵킹머신스가 오픈 가중치 멀티모달 MoE 모델 '잉클링(Inkling)'을 공개했다. 총 975B(활성 41B) 파라미터와 100만 토큰 컨텍스트를 지원한다. 추론 시 사고 강도를 조절해 지연 시간과 비용을 맞출 수 있으며, 팅커 플랫폼을 통해 파인튜닝과 플레이그라운드 테스트를 제공한다.

띵킹머신스, 975B 규모 오픈 가중치 멀티모달 MoE '잉클링' 공개
이미지: thinkingmachines.ai

띵킹머신스가 오픈 가중치로 공개한 '잉클링(Inkling)'은 총 975B 파라미터 중 41B를 활성화하는 멀티모달 MoE 모델입니다. 100만 토큰의 컨텍스트 길이를 지원하며 텍스트, 이미지, 오디오를 네이티브하게 통합 처리합니다.

추론 시 '사고 강도(thinking effort)'를 조절할 수 있어 성능과 응답 속도 사이의 균형을 유연하게 맞출 수 있습니다.

무엇을 할 수 있나

잉클링은 별도의 인코더 없이 음성 스펙트로그램과 40x40 픽셀 이미지 패치를 텍스트 토큰과 함께 처리하는 네이티브 구조로 설계되었습니다.

시각 추론 과정에서 파이썬 도구를 호출해 이미지를 자르거나 확대하며 분석할 수 있으며, 단일 프롬프트로 인터페이스 조작용 AI 어시스턴트가 내장된 웹 앱을 구현하기도 합니다. 다만 현재 출력은 텍스트, 코드, 정형 데이터로 제한됩니다.

터미널 벤치마크 2.1에서는 네모트론 3 울트라와 동일한 코딩 성능을 내는 데 3분의 1 수준의 토큰만 소모합니다. 띵킹머신스는 더 가벼운 환경을 위해 활성 파라미터를 12B(총 276B)로 줄인 '잉클링-스몰' 프리뷰도 함께 공개했습니다.

구동 환경과 테스트 방법

잉클링은 초거대 모델인 만큼 일반 사용자용 하드웨어에서는 원본 구동이 불가능합니다.

허깅페이스에 올라온 원본 가중치는 1.9TB에 달하며, NVFP4 양자화 버전도 592GB의 메모리를 요구합니다. 언슬로스에서 배포한 1비트 GGUF 버전조차 270GB 수준이라 심한 양자화에 따른 성능 저하를 감안해야 합니다.

자체 GPU 클러스터가 없다면 띵킹머신스의 팅커(Tinker) 콘솔에 마련된 플레이그라운드에서 대화 테스트를 진행하거나 파인튜닝 파이프라인을 직접 올려볼 수 있습니다.

왜 중요한가

자체 인프라에 올려 시각과 음성을 아우르는 멀티모달 에이전트를 직접 파인튜닝하려는 기업에게는 확실히 매력적인 기본 모델입니다.

하지만 순수 텍스트와 코딩 처리 속도 면에서는 외부 벤치마크 기준 GLM 5.2나 딥시크 V4에 비해 뒤처집니다. 즉시 투입할 만능 챗봇이라기보다는, 목적에 맞게 재학습해 사용할 대형 멀티모달 베이스로 접근하는 것이 적절합니다.

출처 (4)

  1. [1]
    thinkingmachines.ai(새 탭에서 열림)원문thinkingmachines.ai
  2. [2]
    techcrunch.com(새 탭에서 열림)보도techcrunch.com
  3. [3]
    youtube.com(새 탭에서 열림)보도youtube.com
  4. [4]
    theverge.com(새 탭에서 열림)보도theverge.com

매일 AI 콘텐츠 픽