Google, Vertex AI 대규모 업데이트: 클로드 2·라마 2 도입 및 PaLM 2 확장

자체 모델 강화와 타사 모델 영입

구글 클라우드가 생성형 AI 경쟁에서 주도권을 잡기 위해 대대적인 플랫폼 확장에 나섰습니다. 연례 콘퍼런스 Cloud Next에서 머신러닝 개발 플랫폼인 Vertex AI의 대규모 업데이트를 발표했습니다.

먼저 자체 모델 라인업을 보강했습니다. 대표 언어 모델인 PaLM 2의 컨텍스트 윈도우를 32,000토큰으로 늘렸습니다. 앤트로픽의 Claude 2가 가진 100,000토큰보다는 작지만, 버텍스 AI 측은 추론 비용과 파인튜닝 효율 사이에서 실용적인 균형을 맞춘 결과라고 설명했습니다. 코드 생성 모델인 Codey는 주요 언어에서 생성 품질이 25% 개선되었으며, 이미지 모델 Imagen에는 10장의 참조 이미지만으로 브랜드 스타일에 맞게 결과물을 조정하는 Style Tuning이 추가되었습니다.

더 눈에 띄는 점은 생태계 개방입니다. 사전 구축 모델 모음인 Model Garden에 메타의 Llama 2, TII의 오픈소스 Falcon뿐 아니라 앤트로픽의 Claude 2까지 들여왔습니다. 자사 모델만을 고집하지 않고 타사 인기 모델을 구글 인프라 안에서 소비하게 만들겠다는 계산입니다.

실무 시스템과 연결하는 확장 도구들

모델 성능 개선과 함께, 기업 내부 데이터와 업무 툴을 연결하는 인프라도 전면에 배치했습니다. 오픈AI의 플러그인에 대응하는 Extensions와 데이터 커넥터가 대표적입니다.

Extensions는 모델이 Redis, MongoDB, DataStax 같은 데이터베이스나 CRM, 이메일과 연동되어 실제 작업을 수행하도록 돕습니다. 데이터 커넥터는 세일즈포스, 지라, 컨플루언스 등에서 읽기 전용으로 데이터를 긁어와 기업 내부 지식을 모델에 접목합니다.

검색 및 대화형 앱 제작 도구인 Vertex AI Search와 Vertex AI Conversation도 정식 출시되었습니다. 이전 대화 맥락을 기억해 꼬리 질문을 던질 수 있는 멀티턴 검색과 결과 요약 기능을 지원합니다. 더불어 챗봇의 페르소나와 처리 단계를 자연어로 쉽게 지시할 수 있는 Playbook 기능도 프리뷰로 공개되었습니다.

왜 중요한가

구글이 자체 기술 과시를 넘어 철저히 엔터프라이즈 플랫폼 관점으로 방향을 틀었습니다. 모델 정원 안에 Llama 2와 Claude 2를 함께 배치함으로써, 초기 배포 과정에서 잡음이 있었던 아마존의 AWS Bedrock을 강하게 견제하는 모양새입니다.

기업 개발팀 입장에서는 이점이 큽니다. 모델마다 별도 서빙 환경을 구축할 필요 없이 구글의 보안 체계와 오픈소스 분산 프레임워크인 Ray 위에서 다양한 모델을 손쉽게 비교하고 교체할 수 있습니다. 환각을 줄이기 위해 기업 데이터 출처를 명시하는 Grounding 기능이나 API 수준의 안전성 필터링도 도입 장벽을 낮춰주는 요소입니다.

하지만 법적 불확실성은 여전히 숙제로 남았습니다. 구글은 학습 데이터 검토를 거쳤다고 주장하지만 외지 데이터 소유자를 위한 옵트아웃 절차는 마련하지 않았습니다. 생성된 산출물에 대한 저작권 소유권 문제에도 명쾌한 답을 내놓지 못하고 있어, 실제 서비스에 도입하려는 기업 법무팀의 고민은 계속될 것으로 보입니다.