구글, 7억 4천만 파라미터 온디바이스 모델 ‘임베딩젬마 2’ 오픈소스 공개

임베딩젬마 2는 온디바이스 환경에서 멀티모달 검색을 구현할 수 있도록 설계된 초경량 오픈소스 임베딩 모델입니다. 아파치 2.0 라이선스로 공개되었으며, 전체 파라미터 수는 7억 4천만 개입니다. 텍스트, 코드, 이미지, 영상, 오디오를 모두 하나의 단일 벡터 공간으로 변환해 줍니다.

답변을 생성하는 일반적인 대화형 언어 모델과 달리, 스마트폰이나 로컬 PC 내 파일들의 의미를 파악해 검색 가능하게 만드는 데 집중합니다. 음성 메모의 내용을 텍스트로 찾거나, 특정 음성을 기반으로 원하는 영상 클립을 찾아내는 작업을 외부 서버 없이 오프라인에서 직접 처리할 수 있습니다.

작동 방식과 모듈형 설계

온디바이스에서 검색 증강 생성(RAG)이나 시맨틱 검색 파이프라인을 구축할 때 겪는 가장 큰 문제는 각 미디어별로 무거운 모델을 따로 구동해야 한다는 점이었습니다. 젬마 4 아키텍처 기반의 임베딩젬마 2는 이를 하나의 네이티브 멀티모달 모델로 해결합니다.

모델은 실용적인 모듈형 방식을 채택했습니다. 텍스트 및 코드 검색만 필요한 작업이라면 2억 7천만 파라미터 크기의 기본 모델만 실행하면 됩니다. 여기에 이미지는 1억 7천만 파라미터, 오디오는 3억 파라미터 엔코더를 선택적으로 붙일 수 있습니다. 전체 모델 파일 크기는 약 1.5GB 수준입니다.

로컬 저장 공간을 절약하기 위해 마트료시카 표현 학습(MRL)을 지원합니다. 기본 768차원 출력 벡터를 512, 256, 128차원으로 유연하게 잘라내 저장할 수 있어, 로컬 벡터 데이터베이스의 메모리 및 저장 공간을 최대 6분의 1까지 줄일 수 있습니다.

성능과 하드웨어 요구 사양

10억 파라미터 미만의 소형 모델 중에서는 독보적인 성능을 보여줍니다. MTEB 코드 벤치마크 점수는 이전 세대의 68.76점에서 78.68점으로 10점 가까이 상승해 로컬 코드베이스 인덱싱이나 코딩 에이전트에 잘 맞습니다. 오디오 벤치마크 MAEB 및 이미지 평가에서도 파라미터 수가 두 배 이상 큰 전용 모델들을 뛰어넘는 결과를 냈습니다.

컨텍스트 창은 이전 세대보다 4배 확장된 8K 토큰을 지원합니다. 로컬 장치에서 최대 5.5분의 오디오, 29장의 이미지, 58개의 영상 프레임 또는 이들이 혼합된 데이터를 한 번에 입력받아 처리할 수 있습니다.

하드웨어 요구 사양도 매우 낮습니다. 구글 픽셀 11 프로 기준 양자화 모델을 실행할 때 텍스트 전용 모드는 약 191MB, 전체 모달리티를 모두 활성화해도 약 567MB의 활성 RAM만 사용합니다.

실행 및 지원 환경

모델 가중치는 허깅페이스와 캐글에서 바로 다운로드할 수 있으며, 아파치 2.0 라이선스가 적용되어 상업적 활용에 제약이 없습니다.

개발 툴체인 생태계도 폭넓게 지원합니다. 로컬 서빙 및 추론에는 올라마, llama.cpp, LM스튜디오, MLX, vLLM, transformers 등을 활용할 수 있고, 벡터 저장은 Qdrant와 연동됩니다. 커스텀 미세 조정이 필요하다면 언슬로스(Unsloth)의 가이드를 활용할 수 있습니다.

온디바이스 앱 개발자는 구글 AI 엣지 미디어파이프나 LiteRT를 통해 빠르게 통합할 수 있으며, 웹 브라우저 환경에서는 transformers.js와 WebGPU를 활용해 클라이언트 측에서 직접 구동할 수 있습니다.

왜 중요한가

개인화 비서, 로컬 RAG, 오프라인 파일 관리 앱을 개발하는 엔지니어에게 임베딩젬마 2는 당장 적용해 볼 만한 매우 실용적인 도구입니다. 텍스트, 이미지, 음성을 통합 검색하기 위해 여러 모델을 띄울 필요 없이, 약 500MB대의 메모리만으로 온디바이스에서 원활하게 처리할 수 있기 때문입니다.

젬마 4와 토크나이저 및 엔코더를 공유하도록 설계해 생성 모델과 함께 구동할 때의 총 메모리 사용량을 낮춘 점도 영리한 선택입니다. 다만 8K 컨텍스트 제한이 있는 만큼, 긴 분량의 오디오나 고용량 비디오를 다룰 때는 클라이언트에서 미리 적절한 단위로 청킹해 주는 작업이 필요합니다.