아마존, 베드록에 대화형 에이전트 도입…클로드 2 등 외부 모델도 추가

AI가 단순히 글을 지어내는 단계를 넘어, 기업 내부 시스템을 조작해 실제 업무를 처리하는 단계로 넘어가고 있습니다.

아마존웹서비스(AWS)는 7월 26일 뉴욕에서 열린 'AWS 서밋'에서 자사 생성형 AI 플랫폼인 베드록(Bedrock)에 '베드록을 위한 에이전트(Agents for Bedrock)' 프리뷰 버전을 선보였습니다. 이와 함께 타사 최신 파운데이션 모델도 대거 추가했습니다.

API 호출해 실제 업무 처리하는 대화형 에이전트

베드록 에이전트는 기업의 고유 데이터를 기반으로 맞춤형 답변을 제공할 뿐만 아니라, 시스템 API를 직접 호출해 작업을 실행하도록 돕는 도구입니다.

스와미 시바수브라마니안(Swami Sivasubramanian) AWS 머신러닝 부사장은 기업이 에이전트를 활용해 고객 정보와 반품 정책을 확인하고 직접 주문 및 반품을 처리하는 고객 상담 챗봇을 구현할 수 있다고 설명했습니다.

이는 외부 데이터와 API를 연결하는 오픈AI의 챗GPT 플러그인이나 라마인덱스(LlamaIndex) 같은 엔터프라이즈 도구들의 흐름과 맞닿아 있습니다. 복잡한 업무를 여러 단계로 나누고, 필요한 정보를 되물으며, 백엔드에서 추론 프롬프트를 자동으로 생성해 작업을 완수하는 방식입니다. 이 에이전트 구동에는 아마존의 자체 AI 모델인 타이탄(Titan) 제품군이 사용됩니다.

앤트로픽과 코히어 최신 모델 합류

아마존은 에이전트 출시와 함께 외부 모델 라인업도 대폭 보강했습니다.

앤트로픽의 최신 텍스트 생성 모델인 클로드 2(Claude 2)와 스태빌리티 AI의 이미지 생성 모델인 스테이블 디퓨전 XL 1.0(Stable Diffusion XL 1.0)이 이날부터 베드록에서 제공되기 시작했습니다.

엔비디아가 투자한 코히어(Cohere)의 모델 2종도 들어왔습니다. 비즈니스 텍스트 요약과 대화에 특화된 커맨드(Command) 모델과 100여 개 언어의 검색 및 분류를 지원하는 코히어 임베드(Cohere Embed)입니다.

왜 중요한가

기업 개발자 입장에서 대형언어모델을 내부 데이터베이스나 결제·주문 API와 연결하는 작업은 상당한 엔지니어링 비용이 드는 일입니다. AWS 인프라 위에서 에이전트 설정만으로 이를 자동화할 수 있다면, 실제 업무 자동화 애플리케이션을 제작하는 속도가 획기적으로 빨라집니다.

업계 경쟁 측면에서 아마존의 노림수는 명확합니다. 마이크로소프트가 오픈AI에 전적으로 의존하는 동안, 아마존은 자사 타이탄 모델 외에도 앤트로픽, 코히어, 스태빌리티 AI 등을 두루 갖춘 멀티 모델 유통 플랫폼으로 자리매김하겠다는 전략입니다. 특정 AI 모델 기업에 종속되기를 꺼리는 기업 고객에게 매력적인 선택지가 될 수 있습니다.

관건은 배포 속도와 안정성입니다. 블룸버그는 지난 5월 베드록 발표 6주 후에도 대다수 클라우드 고객이 서비스에 접근조차 하지 못했다고 보도한 바 있습니다. 이번 에이전트 기능 역시 프리뷰 단계인 만큼, 아마존이 약속한 편의성을 실제 엔터프라이즈 환경에서 얼마나 빠르게 대규모로 입증해 보이느냐가 승부처가 될 것으로 보입니다.