구글, 차세대 LLM 'PaLM 2' 공개: 바드 탑재 및 온디바이스 모바일 지원

지난 1년 동안 생성형 AI 경쟁은 누가 더 거대한 파라미터 수를 가졌는지를 겨루는 장이었습니다. 하지만 구글이 새로 선보인 차세대 대규모 언어모델 PaLM 2는 그 흐름을 실용성 중심으로 전환하고 있습니다.

구글은 연례 개발자 회의인 Google I/O에서 PaLM 2를 공식 발표했습니다. 이 모델은 OpenAI의 ChatGPT에 맞서는 바드의 새로운 두뇌 역할을 맡으며, 구글이 당일 발표한 대부분의 신규 AI 기능의 기반 모델로 작동합니다. 개발자들은 PaLM API와 파이어베이스, 코랩을 통해 즉시 접근할 수 있습니다.

파라미터 경쟁에서 벗어나 패밀리 모델로

주목할 점은 구글이 OpenAI와 마찬가지로 PaLM 2의 구체적인 파라미터 수를 공개하지 않았다는 점입니다. 이전 세대인 PaLM 1이 5400억 개 파라미터를 앞세웠던 것과는 사뭇 다른 행보입니다.

딥마인드의 주빈 가흐라마니 부사장은 모델이 무조건 크다고 좋은 것은 아니며, 파라미터 수 자체가 모델의 역량을 대변하지 않는다고 설명했습니다. 실제 테스트에서 얼마나 유용한지가 핵심이라는 판단 아래, 구글은 단일 거대 모델 대신 크기가 다양한 패밀리 형태로 라인업을 구성했습니다.

하드웨어 측면에서는 구글의 최신 머신러닝 라이브러리인 JAX와 TPU v4 인프라를 기반으로 학습되어 효율성을 끌어올렸습니다.

수학·코딩 강화부터 온디바이스 구동까지

기능 측면에서는 기존 LLM의 고질적 약점이었던 추론과 연산 능력을 대폭 보완했습니다. 100개 이상의 언어를 학습했을 뿐만 아니라 과학 논문과 수학 표현식을 대거 소화해, 외부 플러그인 없이도 복잡한 수학 문제를 풀고 도표를 제시할 수 있습니다.

코딩 역량도 강화되었습니다. 자바스크립트나 파이썬 같은 인기 언어는 물론 포트란, 프롤로그 등 20개 프로그래밍 언어를 학습했습니다. 구글은 이를 바탕으로 코드 완성 및 생성을 전담하는 특화 모델 코디를 선보였습니다.

의료 특화 모델인 Med-PaLM 2와 보안 중심의 Sec-PaLM 외에도 가장 흥미로운 대목은 스마트폰에서 로컬로 구동되는 소형 PaLM 2 모델입니다.

이 온디바이스 모델은 초당 약 20개의 토큰을 처리할 수 있습니다. 구글이 테스트 기종이나 구체적인 출시 일정을 밝히지는 않았지만, 개인정보 보호가 필수적인 오프라인 환경에서 LLM을 구동할 수 있는 길을 열었다는 평가입니다.

왜 중요한가

우리는 구글이 단순한 크기 경쟁을 끝내고 실질적인 서비스 배포와 최적화로 전략을 완전히 전환했다고 봅니다.

개발자와 기업 입장에서는 고비용의 거대 범용 모델 하나에 의존하기보다, 코딩의 코디나 모바일 온디바이스 모델처럼 크기와 목적이 나뉜 패밀리를 활용하는 편이 운영 비용과 지연 시간을 줄이는 데 훨씬 유리합니다. 특정 도메인의 버티컬 서비스를 준비 중이라면 이제 단일 모델이 아닌 맞춤형 파생 모델의 도입을 진지하게 고려해 볼 만합니다.

업계 전반으로 보면 OpenAI의 독주를 견제할 수 있는 구글의 가장 강력한 반격 카드입니다. 성능 논란이 잦았던 바드의 경쟁력을 정상 궤도로 끌어올리는 동시에, 자체 TPU v4 인프라를 활용해 엔비디아 GPU 수급에 휘둘리지 않고 추론 단가를 낮출 수 있는 독자적 진지를 구축했기 때문입니다.

다만 한계도 뚜렷합니다. 발표 전 외부 사전 검증이 충분치 않아 실제 환경에서의 환각 현상이나 예외 처리가 얼마나 개선되었는지는 검증이 필요합니다. 모바일 기기에서의 초당 20토큰 구동 역시 기술적 가능성을 입증한 수준에 가까워, 일반 사용자 기기에 기본 탑재되기까지는 엔지니어링 최적화라는 과제가 남아 있습니다.