허깅페이스 오픈 모델 83종, 아마존 베드록 마켓플레이스 탑재

그동안 AWS에서 생성형 AI 애플리케이션을 만들 때 개발자들은 종종 번거로운 갈림길에 섰습니다. Bedrock의 편리한 에이전트와 지식 기반 기능을 쓰자니 지원 모델이 제한적이었고, Hugging Face의 다양한 오픈소스를 쓰려면 SageMaker에서 인프라를 직접 세팅해야 했습니다.

Hugging Face는 자사 커뮤니티의 인기 오픈 모델 83종이 신규 출시된 Bedrock Marketplace를 통해 Amazon Bedrock에 공식 입점했다고 발표했습니다. 해당 마켓플레이스가 지원되는 14개 AWS 리전에서 즉시 배포 가능합니다.

겉은 Bedrock, 속은 SageMaker

작동 구조는 꽤 실용적입니다. Bedrock 콘솔의 모델 카탈로그에서 공급자를 Hugging Face로 필터링한 뒤, Google Gemma 2 27B Instruct 같은 모델을 선택해 손쉽게 배포할 수 있습니다.

실제 모델 엔드포인트 호스팅은 내부적으로 Amazon SageMaker JumpStart가 담당합니다. Gemma 2 27B의 경우 권장 인스턴스인 ml.g5.48xlarge 등에서 구동됩니다. 배포가 끝나고 엔드포인트 ARN을 발급받으면, 익숙한 Bedrock Converse API를 사용해 코드로 모델을 호출할 수 있습니다.

핵심은 Bedrock의 고급 관리형 기능들과 완전히 호환된다는 점입니다. 오픈 모델을 배포한 뒤 Bedrock의 Agents, Knowledge Bases, Guardrails, Model Evaluations 기능을 그대로 이어붙여 활용할 수 있습니다.

비용은 SageMaker 컴퓨팅 인스턴스 요금에 일반 Bedrock API 요금이 더해지는 방식입니다. 토큰 단위로 과금되는 서버리스 방식이 아니라 전용 인스턴스가 계속 돌아가는 구조이므로, 테스트를 마친 뒤에는 반드시 엔드포인트를 직접 삭제해야 요금 폭탄을 피할 수 있습니다.

왜 중요한가

엔지니어 관점에서 글루 코드 작성이 크게 줄어듭니다.

기존에는 오픈소스 가중치를 가져와 기업용 안전 필터(가드레일)를 씌우거나 RAG 검색 체계를 연동하려면 별도의 프레임워크를 복잡하게 엮어야 했습니다. 이제는 Bedrock이 제공하는 엔터프라이즈 미들웨어를 83종의 오픈 모델에 곧바로 결합할 수 있습니다.

AWS 입장에서도 SageMaker와 Bedrock 사이의 틈새를 영리하게 메운 선택입니다. 구글 클라우드나 애저의 모델 카탈로그 공세에 대응하면서, 83종의 방대한 오픈 모델을 무리하게 서버리스로 떠안지 않고 SageMaker 인스턴스로 분산시켜 GPU 유휴 리스크를 피했습니다.

우리는 이 방식이 매우 현실적인 타협안이라고 봅니다. 다만 전용 인스턴스 비용을 사용자가 고스란히 감당해야 하므로, 간헐적으로 테스트하는 개인 개발자보다는 안정적인 호출량과 엔터프라이즈 보안 요건을 동시에 요구하는 기업 환경에 훨씬 적합합니다.