본문으로 건너뛰기
IFAI

업계 동향

퀄컴, 스마트폰서 스테이블 디퓨전 구동 시연: 15초 만에 이미지 생성

게시 확산 지수 38

퀄컴이 스냅드래곤 8 2세대 칩셋을 탑재한 스마트폰에서 스테이블 디퓨전 1.5를 완전히 로컬로 구동해 512x512 이미지를 15초 이내에 생성하는 데모를 선보였다. 클라우드 없이 기기 자체에서 구동돼 네트워크 연결이 필요 없고 개인정보 보호에 유리하지만, 해당 최적화 패키지는 아직 일반에 공개되지 않았다.

퀄컴, 스마트폰서 스테이블 디퓨전 구동 시연: 15초 만에 이미지 생성
이미지: theverge.com

스마트폰에서 AI로 이미지를 생성할 때 대부분의 서비스는 이용자의 프롬프트를 클라우드 서버로 보내 연산한 뒤 결과를 전송하는 방식을 씁니다.

퀄컴이 인터넷 연결 없이 스마트폰 기기 자체에서 이미지 생성 AI인 스테이블 디퓨전을 직접 구동하는 기술을 공개하며 모바일 최고 속도 기록을 세웠다고 발표했습니다.

시연 영상에서 퀄컴은 플래그십 칩셋인 스냅드래곤 8 2세대를 탑재한 스마트폰을 사용해 스테이블 디퓨전 1.5 모델로 512 x 512 픽셀 이미지를 15초도 채 되지 않아 완성했습니다.

1시간 걸리던 연산을 15초로 단축

스테이블 디퓨전처럼 거대한 생성형 모델은 요구하는 연산량이 방대해 일반적인 노트북에서도 이미지 한 장을 만드는 데 몇 분씩 걸리곤 합니다.

퀄컴은 이번 시연이 스마트폰 역사상 가장 빠른 속도이자 안드로이드 기기에서 스테이블 디퓨전을 로컬로 구동한 최초의 사례라고 주장했습니다. 다만 엄밀히 말해 최초 구동은 개발자 이본 황이 스냅드래곤 865 칩을 탑재한 소니 엑스페리아 5 II에서 먼저 성공한 바 있습니다. 하지만 당시에는 이미지 한 장을 생성하는 데 꼬박 1시간이 걸렸습니다.

퀄컴이 이번에 15초 미만이라는 수치를 기록할 수 있었던 것은 지난 11월 출시된 스냅드래곤 8 2세대 내부의 AI 전용 헥사곤 프로세서와 엔지니어들의 소프트웨어 최적화 작업 덕분입니다.

아이폰의 60초 기록도 여유 있게 제쳐

모바일 기기 내부에서 대형 모델을 직접 구동하려는 시도는 애플 역시 진행해 왔습니다. 애플은 지난 12월 자체 머신러닝 프레임워크인 코어 ML을 위한 스테이블 디퓨전 최적화 라이브러리를 공개했습니다.

외신 테스트 결과 2021년 출시된 아이폰 13에서 드로우 띵스 앱과 코어 ML 가속을 적용해 512 x 512 이미지를 생성했을 때 약 60초가 소요되었습니다. 퀄컴은 최신 하드웨어와 비공개 맞춤형 최적화 패키지를 사용했다는 조건 차이가 있지만, 수치상으로는 애플 진영의 기록을 크게 앞질렀습니다.

왜 중요한가

우리는 이번 시연이 생성형 AI 서비스가 값비싼 클라우드 인프라 의존도를 벗어나 개인 기기로 완전히 내려올 수 있음을 보여준 결정적 신호라고 봅니다.

이용자 관점에서 온디바이스 AI는 네트워크가 끊긴 환경에서도 작동하고, 입력한 프롬프트나 데이터가 외부 서버로 전송되지 않아 완벽한 프라이버시를 보장합니다. 개발사 입장에서도 막대한 서버 비용 부담 없이 앱을 배포할 수 있는 길이 열립니다.

산업 측면에서는 모바일 AP 제조사 간의 경쟁 구도를 완전히 바꿀 것으로 보입니다. 이제 스마트폰 칩셋 경쟁은 카메라 화질 보정을 넘어 오픈소스 파운데이션 모델을 로컬에서 몇 초 만에 처리하느냐의 싸움으로 옮겨가게 되었습니다.

퀄컴이 업계 표준인 스테이블 디퓨전을 시연 모델로 채택해 하드웨어 성능을 직관적으로 증명한 전략은 매우 영리했습니다. 다만 이번 성과는 내부 데모에 머물러 있으며, 이 최적화 도구가 일반 개발자 생태계에 언제 공개될지, 그리고 연속 생성 시 발열과 배터리 소모를 일상 환경에서 얼마나 제어할 수 있을지는 앞으로 지켜봐야 할 과제입니다.

출처 (1)

  1. [1]
    theverge.com(새 탭에서 열림)원문theverge.com

매일 AI 콘텐츠 픽