오페라 원, 브라우저에 로컬 LLM 내장…'라마·젬마' 등 150종 지원

내 PC에서 오픈소스 대형언어모델(LLM)을 직접 구동하려면 그동안 적지 않은 수고가 필요했습니다. 터미널을 열고 파이썬 환경을 세팅하거나 별도의 로컬 실행 툴을 설치해야 하는 진입 장벽이 있었기 때문입니다.

오페라(Opera)가 이 과정을 브라우저 안으로 가져왔습니다. 오페라는 자사의 주력 웹 브라우저인 '오페라 원(Opera One)' 개발자 스트림에 로컬 LLM을 실험적으로 지원하기 시작했다고 발표했습니다. 주요 웹 브라우저가 자체 내장 기능을 통해 로컬 LLM을 손쉽게 내려받고 관리할 수 있도록 지원하는 것은 이번이 처음입니다.

브라우저 하나로 150개 모델 구동

이번 지원은 얼리어답터를 위한 'AI 피처 드롭스 프로그램'의 일환으로 진행됩니다. 지원 규모도 작지 않습니다. 약 50개 모델 패밀리에서 나온 150여 종의 로컬 LLM 변형 모델을 지원합니다.

지원 목록에는 메타(Meta)의 라마(Llama), 구글(Google)의 젬마(Gemma), 미스트랄 AI의 믹스트랄(Mixtral), 그리고 비쿠냐(Vicuna) 등이 대거 포함됐습니다.

이용 방법은 간단합니다. 최신 오페라 개발자 버전을 설치한 뒤 설정을 켜고 브라우저 안에서 원하는 모델을 고르면 파일이 기기에 직접 다운로드됩니다.

모델에 따라 기기 내 저장 공간은 보통 2GB에서 10GB 정도 필요합니다. 다운로드가 완료되면 오페라의 기본 클라우드 AI인 '아리아(Aria)' 대신 로컬 LLM이 입력을 처리합니다. 데이터가 외부 서버로 전송되지 않고 로컬 기기 안에서만 처리되므로 완전한 오프라인 및 프라이버시 보호가 가능합니다.

왜 중요한가

구글과 마이크로소프트가 자사 브라우저에 클라우드 기반 독점 AI를 묶어두는 데 집중하는 사이, 오페라는 오픈소스 생태계를 브라우저 안으로 흡수하는 영리한 우회로를 택했습니다.

데이터 유출을 극도로 꺼리는 사용자나 다양한 오픈소스 모델을 빠르게 시험해보고 싶은 개발자에게 매우 유용한 기능입니다. 복잡한 명령어를 칠 필요 없이 클릭 몇 번으로 라마나 젬마를 기기에서 직접 돌려볼 수 있기 때문입니다.

우리는 막대한 자본이 들어가는 자체 파운데이션 모델 경쟁을 피하고, 브라우저를 오픈소스 AI의 가장 편리한 '실행기'로 포지셔닝한 오페라의 전략이 매우 영리하다고 봅니다.

다만 하드웨어 한계는 여전한 숙제입니다. 모델당 수 기가바이트의 저장 공간을 차지하는 데다, 성능 좋은 GPU가 없는 일반 사무용 노트북에서는 모델의 연산 속도가 답답할 정도로 느릴 수 있습니다. 설치 문턱은 없앴지만, 실질적인 사용 만족도는 결국 사용자 PC 성능에 크게 좌우될 것으로 보입니다.