퀄컴, 차세대 칩에 생성형 AI 직접 탑재…내년 프리미엄 폰에 적용

ChatGPT나 미드저니 같은 생성형 AI는 주로 PC 브라우저 창이나 클라우드 서버와의 통신에 의존해 작동해 왔습니다.

퀄컴이 이 흐름을 모바일 기기 내부로 끌어들이려 하고 있습니다. 8월 25일 CNET에 따르면, 퀄컴은 차세대 프리미엄 칩셋에 생성형 AI 기능을 내장하고 있으며 오는 10월 말 하와이에서 열리는 연례 서밋에서 이를 공식 공개할 예정입니다. 이 칩이 탑재된 고급형 안드로이드 스마트폰은 내년에 출시됩니다.

기기 안에서 도는 70억 매개변수 모델

퀄컴의 지아드 아스가 제품 관리 부사장은 온디바이스 AI를 궁극의 목표라고 설명했습니다. 스마트폰은 사용자의 이동 경로, 식당 검색 기록, 사진첩 등 다양한 맥락을 이미 쥐고 있습니다. 이 데이터에 직접 접근해 답변을 만들면 클라우드 기반 AI의 일반적인 답변보다 훨씬 개인화된 결과를 내놓을 수 있습니다.

개인정보 보호와 반응 속도 측면의 장점도 뚜렷합니다. 데이터를 외부 서버로 전송하지 않고 비행기 탑승 모드나 네트워크가 없는 환경에서도 즉시 구동됩니다.

운영 비용 문제도 큽니다. 지난 4월 추정에 따르면 OpenAI는 구형 GPT-3 모델로 ChatGPT 질의를 처리하는 데만 하루 약 70만 달러를 썼습니다. 매개변수가 수십억 개로 늘어날수록 서버 유지 비용은 기하급수적으로 커집니다. 테크스포넨셜의 분석가 아비 그린가트는 사용자가 이미 기기 구매 시 연산 비용을 지불했기 때문에 스마트폰에서 AI를 실행하는 것은 실질적으로 무료라고 평가했습니다.

퀄컴은 지난 2월 MWC에서 스냅드래곤 8 2세대 칩이 들어간 기기로 이미지 생성 모델인 스테이블 디퓨전을 시연한 바 있습니다. 아스가 부사장은 현재 연구실에서 70억 매개변수 모델을 구동하고 있으며 차세대 프리미엄 칩에서는 100억 개 이상의 모델까지도 처리가 가능할 것이라고 밝혔습니다. 이 작업은 헥사곤 프로세서와 신경망처리장치(NPU)가 맡기 때문에 종일 시연을 진행해도 배터리가 방전되거나 발열이 심해지지 않았다고 덧붙였습니다.

음성에서 이미지까지 모델 연계 구상

퀄컴은 텍스트 입력을 넘어 여러 모델을 엮는 청사진을 제시하고 있습니다. 음성 인식으로 명령을 텍스트로 바꾸고 이를 이미지 생성 모델로 보낸 뒤, 메타의 오픈소스 대형 언어 모델 라마 2 등을 접목해 입 모양을 움직이며 실시간으로 대화하는 가상 비서를 구현하는 방식입니다.

이 기술은 스마트폰에만 머무르지 않고 PC와 차량으로도 확장됩니다. 퀄컴은 고전 미드 전격 Z작전에 나오는 인공지능 자동차 키트처럼 차량 내 음성 비서를 고도화하거나, 통화 내용을 바탕으로 5장짜리 발표 자료를 자동 생성하는 오피스 도구를 준비 중입니다.

리콘 애널리틱스의 분석가 로저 엔트너는 앱 개발사들이 이를 본격적으로 활용하기 전까지는 사진 보정, 소셜 미디어 필터 제작, 키보드 자동 완성 교정처럼 현재 일상적으로 마주하는 문제를 해결하는 데 먼저 쓰일 것이라고 내다봤습니다.

왜 중요한가

수십억 개의 매개변수를 가진 AI 모델을 단말기 칩에 직접 심는 방식은 클라우드 종속적인 인공지능 생태계에 의미 있는 균열을 냅니다. 이용자 입장에서는 인터넷 연결이 불안정한 환경에서도 작업을 이어갈 수 있고, 소중한 개인 사진이나 위치 정보가 빅테크 서버로 전송되는 위험을 피할 수 있다는 실질적인 혜택이 있습니다.

스마트폰 업계 관점에서도 중요한 돌파구입니다. 최근 몇 년간 프로세서 성능 향상이 일상 체감으로 이어지지 못하면서 기기 교체 수요가 둔화되었는데, 로컬 생성형 AI는 내년 프리미엄 안드로이드 단말기의 가장 확실한 구매 명분이 될 수 있습니다. 또한 운영체제 내부 개선에 트랜스포머 모델을 도입하고 자체 챗봇을 시험 중인 것으로 알려진 애플을 상대로 퀄컴이 하드웨어 생태계 선점에 나서는 모양새입니다.

다만 우리가 보기에 온디바이스 AI의 성패는 서드파티 앱 생태계가 얼마나 빠르게 열리느냐에 달려 있습니다. 70억에서 100억 개 수준의 모바일 경량화 모델은 대규모 클라우드 모델보다 추론 능력에 구조적 한계가 존재합니다. 개발사들이 사진 필터나 단순 교정을 넘어 완전히 새로운 모바일 사용 경험을 만들어내지 못한다면, 소비자가 체감하는 혁신의 폭은 생각보다 제한적일 수 있습니다.