구글, 스마트폰에서 AI 모델 오프라인 실행하는 'AI 엣지 갤러리' 공개

스마트폰에서 오픈소스 AI 모델을 직접 실행하려면 복잡한 빌드 환경을 거치거나, 모든 민감한 데이터를 클라우드 서버로 전송해야만 했습니다. Google이 이 진입 장벽을 대폭 낮추는 앱을 선보였습니다.

Google은 모바일 기기에서 다양한 오픈소스 AI 모델을 다운로드하고 완전히 오프라인으로 구동할 수 있는 앱인 Google AI Edge Gallery를 공개했습니다.

이 앱은 Apache 2.0 오픈소스 라이선스로 제공되며 Google의 경량 런타임인 LiteRT를 기반으로 작동합니다. Android는 물론 iOS와 macOS를 지원하며, 기기 자체 프로세서를 활용해 인터넷 연결 없이 Hugging Face 등의 모델을 실행합니다.

모바일 기기 속 온디바이스 AI 샌드박스

앱 메인 화면은 단순한 텍스트 입력창 대신 다양한 실사용 작업 메뉴를 직관적으로 제공합니다.

기본 기능인 AI Chat은 온디바이스 음성 인식과 음성 합성을 지원해 키보드 입력 없이 음성으로 대화할 수 있습니다. Ask Image 기능은 Gemma 3n 같은 멀티모달 모델을 사용해 카메라로 사물을 비추거나 사진을 올려 즉시 질문하고 답을 얻을 수 있습니다.

최근 추가된 EmbeddingGemma 2 모델 지원을 통해 온디바이스 시맨틱 검색도 구현했습니다. Instant Media Search와 Video Moment Finder 기능을 사용하면 외부 서버 전송 없이 자연어 검색만으로 로컬 사진첩이나 동영상 속 특정 순간을 찾아냅니다.

개발자를 위한 Prompt Lab에서는 온도 값이나 top-k 등 세부 매개변수를 조정하며 프롬프트를 테스트할 수 있습니다. 또한 미세조정된 FunctionGemma 270m 모델을 기반으로 기기 제어를 자동화하는 Mobile Actions와 미니게임 Tiny Garden 같은 실험적 기능도 포함되었습니다. 최소 요구 사양은 Android 12 및 iOS 17 이상입니다.

왜 중요한가

일반 사용자와 개발자 관점에서 로컬 AI의 사용 문턱을 획기적으로 낮췄다는 점이 가장 큽니다. 이제 민감한 개인 정보나 문서를 외부 데이터센터로 보낼 필요 없이, 스마트폰에서 다양한 오픈소스 경량 모델의 성능을 즉시 검증해 볼 수 있습니다.

업계 측면에서는 Google이 온디바이스 AI 추론의 주도권을 잡으려는 전략이 뚜렷하게 드러납니다. 천문학적인 클라우드 서빙 비용을 줄이기 위해 일상적인 작업을 엣지 기기로 분산하는 흐름 속에서, 자사 LiteRT와 Gemma 모델을 모바일 생태계의 표준으로 만들려는 움직임입니다.

우리는 Google이 이 앱을 픽셀 스마트폰에 독점하지 않고 iOS와 macOS까지 개방하며 Apache 2.0으로 완전 오픈소스화한 점을 영리한 선택으로 봅니다. Hugging Face와의 연계를 통해 외부 개발자 커뮤니티의 피드백을 빠르게 흡수할 수 있기 때문입니다.

다만 모바일 하드웨어의 발열과 배터리 소모는 여전히 현실적인 한계입니다. 아무리 경량화된 모델이라도 스마트폰 칩셋에 무거운 추론 부하가 걸리면 스로틀링이 발생할 수밖에 없어, 실제 일상 앱으로 안착하기까지는 전력 효율 최적화가 필수 과제로 남을 것입니다.