구글, 모바일 특화 '젬마 3n' 공개: 5B 모델이 2GB 램에서 구동

Gemma 3n은 구글이 스마트폰, 태블릿, 노트북 등 모바일 기기에서 직접 구동하도록 설계한 온디바이스 오픈 멀티모달 모델입니다. 클라우드를 거치지 않고 일상적인 기기에서 실시간 AI 경험을 구현하는 데 초점을 맞췄습니다.

이번에 얼리 프리뷰로 공개된 모델은 5B와 8B 두 가지 크기이며, 모바일 기기의 하드웨어 한계에 맞춰 메모리 효율을 극대화했습니다.

무엇을 할 수 있나

Gemma 3n은 음성, 이미지, 영상, 텍스트 입력을 기기 내부에서 동시에 처리할 수 있는 온디바이스 멀티모달 기능을 제공합니다.

모든 연산이 외부 서버 전송 없이 로컬에서 완결되므로 개인정보 보호에 유리합니다. 특히 오디오 기능에 강점이 있어 실시간 음성 전사, 기기 내 통번역, 지연 시간 없는 음성 기반 대화형 인터페이스를 구현하기에 적합합니다.

메모리를 줄인 핵심 원리

기존 모바일 환경에서 5B급 모델을 돌리려면 메모리 부족으로 앱이 강제 종료되기 십상이었습니다. 구글 딥마인드는 '레이어별 임베딩(Per-Layer Embeddings, PLE)'이라는 기술을 적용해 이 문제를 해결했습니다.

PLE를 통해 5B 모델의 동적 RAM 점유율을 2GB 수준으로, 8B 모델은 3GB 수준으로 대폭 낮췄습니다. 기존 2B나 4B 모델을 돌리던 메모리 공간에서 5B와 8B 수준의 성능을 발휘할 수 있게 된 셈입니다.

퀄컴, 미디어텍, 삼성전자 시스템LSI 등 주요 모바일 AP 제조사들과 긴밀히 협력해 하드웨어 가속 최적화도 마쳤습니다.

이용 방법과 로드맵

Gemma 3n은 현재 개발자용 얼리 프리뷰 형태로 제공되며, 공식 개발자 문서를 통해 바로 테스트해 볼 수 있습니다.

이 공유 아키텍처는 올해 말 안드로이드와 크롬 환경에 적용될 차세대 제미나이 나노(Gemini Nano)의 기반이기도 합니다. 개발자들은 동일한 기반의 기술을 미리 검증해 볼 수 있습니다.

왜 중요한가

모바일 앱 개발자나 오프라인 환경에서 동작하는 로컬 AI를 고민하는 엔지니어라면 당장 주목해야 할 모델입니다. 동적 메모리 요구량이 2GB에 불과해 플래그십뿐 아니라 보급형 기기에서도 멀티모달 모델을 안정적으로 구동할 수 있습니다.

그동안 온디바이스 오픈 모델 진영은 텍스트 처리에 치우쳐 있었으나, 음성과 영상을 포괄하는 고효율 모델이 등장하면서 모바일 AI 생태계의 판도가 클라우드 의존에서 기기 직접 처리로 빠르게 옮겨갈 가능성이 커졌습니다.