클라우드플레어, AI 배포 스타트업 '레플리케이트' 인수
클라우드플레어가 5만 개 이상의 컨테이너화된 오픈소스 모델을 제공하는 AI 배포 스타트업 레플리케이트(Replicate)를 인수했다. 이번 인수로 레플리케이트의 플랫폼을 자사 글로벌 엣지 인프라로 이전하며, 워커스 AI(Workers AI)를 강화해 인프라 관리 없이도 커스텀 LLM을 손쉽게 배포할 수 있도록 지원할 계획이다.
AI Gateway
클라우드플레어, 엣지 AI 도구 출시: 사용한 만큼만 내는 GPU 추론 지원
클라우드플레어가 Workers AI, Vectorize, AI Gateway 등 엣지 AI 제품군을 발표했다. 이용자 인근 GPU에서 라마 2 등의 모델을 종량제로 실행하고, 벡터 데이터베이스 저장 및 캐싱 기반 비용 관리를 지원한다. 추론 데이터는 모델 학습에 쓰이지 않는다.