안드레센 호로위츠, AI 플랫폼 레플리케이트에 시리즈 A 투자

외계인이 지구에 착륙해 인류의 소프트웨어를 분석한다면, 거의 모든 애플리케이션이 네트워크와 스토리지, 컴퓨팅 자원의 조합이라는 익숙한 틀 안에 있다는 사실을 알게 될 것입니다. 하지만 스테이블 디퓨전이나 챗GPT 같은 대형 모델은 수십 년 만에 등장한 완전히 새로운 소프트웨어의 기초 블록입니다. 문제는 이 블록을 가져다 쓰기가 여전히 너무 어렵다는 점입니다.

벤처캐피털 앤드리슨 호로위츠(a16z)는 2월 21일, 머신러닝 인프라 스타트업 레플리케이트(Replicate)의 시리즈 A 투자를 주도했다고 발표했습니다. 목표는 명확합니다. 머신러닝 분야의 버셀(Vercel)이 되어 오픈소스 AI의 활용 장벽을 완전히 허무는 것입니다.

3000만 명의 개발자가 마주한 CUDA 오류

a16z의 분석에 따르면 전 세계 소프트웨어 엔지니어는 약 3000만 명에 달하지만, 머신러닝 엔지니어는 약 50만 명에 불과합니다. 두 집단 사이에는 무려 두 자릿수의 격차가 존재합니다.

대다수 일반 개발자는 복잡한 파이썬 환경 설정이나 정체 모를 CUDA 드라이버 오류를 붙잡고 씨름하고 싶어 하지 않습니다. 애플리케이션에 이미지 생성 기능 하나를 넣으려 해도, 모델을 어디에 호스팅하고 장애가 나면 어떻게 복구할지 막막한 것이 현실입니다. 대다수 AI 기업이 더 뛰어난 단일 모델을 학습시키는 데 집중하느라, 정작 이를 쉽게 쓰게 만드는 추상화 도구에는 신경 쓰지 못했습니다.

레플리케이트는 오픈소스 AI 모델을 한곳에 모아 API 형태로 제공하는 방식을 택했습니다. 머신러닝 지식이나 인프라 세팅 없이도 즉시 모델을 실행할 수 있고, 여러 모델을 하나의 파이프라인으로 엮거나 자체 모델을 파인튜닝해 호스팅하는 기능까지 깔끔하게 지원합니다.

도커 컴포즈 설계자가 다시 짠 AI 패키징

개발자 경험을 제대로 개선하려면 개발자가 겪는 고통을 깊이 이해해야 합니다. 레플리케이트 창업팀의 이력은 이 문제에 완벽히 들어맞습니다.

공동 창업자인 벤 퍼시먼(Ben Firshman)은 전 세계 수백만 개발자가 사용하는 도커 컴포즈(Docker Compose)의 첫 버전을 직접 설계한 인물입니다. 또 다른 창업자인 안드레아스 얀손(Andreas Jansson)은 스포티파이에서 대규모 상용 AI 모델을 배포하고 내부 툴링을 밑바닥부터 구축했던 시니어 머신러닝 엔지니어 출신입니다.

두 사람은 레플리케이트 설립 전 머신러닝 모델을 컨테이너로 손쉽게 묶어주는 오픈소스 도구 코그(Cog)를 내놓았고, 이 기술이 현재 플랫폼의 핵심 기반으로 쓰이고 있습니다. 이미 수천 명의 활성 개발자가 레플리케이트에서 시각 생성형 AI 앱을 개발하고 있으며, 유수의 유명 AI 스타트업들도 자체 인프라를 구축하는 대신 이 플랫폼을 도입했습니다.

왜 중요한가

우리는 이번 a16z의 투자가 생성형 AI의 병목이 모델 개발 자체에서 현장 배포와 개발자 경험으로 넘어가고 있음을 보여주는 신호라고 봅니다. 아무리 뛰어난 오픈소스 모델이 쏟아져 나와도, 전 세계 개발자의 98%가 손쉽게 호출할 수 없다면 실제 비즈니스 가치로 이어지기 어렵기 때문입니다.

일반 앱 개발자나 인디 빌더에게 레플리케이트가 주는 가치는 매우 명확합니다. 스테이블 디퓨전을 활용한 기능을 만들 때 직접 값비싼 클라우드 GPU 인스턴스를 띄우고 드라이버를 깔 필요가 없습니다. 단 몇 줄의 코드만으로 즉시 작동하는 API를 얻을 수 있으므로, 새로운 아이디어를 검증하려는 초기 단계라면 지금 바로 써볼 가치가 충분합니다.

산업 전체로 보면 레플리케이트 같은 플랫폼의 등장은 오픈소스 생태계의 판도를 바꿀 수 있습니다. 복잡한 모델을 표준화된 API 뒤로 숨김으로써, 개발자는 특정 모델이나 클라우드 벤더에 종속되지 않고 유연하게 부품을 교체하듯 AI를 쓸 수 있게 됩니다. 이는 거대 빅테크의 폐쇄형 모델에 맞서는 오픈소스 진영 전체의 경쟁력을 끌어올리는 효과를 냅니다.

모델 성능 경쟁에 뛰어드는 대신 개발자 도구라는 틈새를 정조준한 전략은 매우 영리해 보입니다. 다만 트래픽이 폭발해 대규모 연산 비용이 발생하는 단계에 이르렀을 때, 사용자가 비용 절감을 위해 자체 클라우드로 이탈하지 않도록 묶어둘 락인 요소와 안정적인 마진을 확보할 수 있을지가 레플리케이트의 장기적인 숙제가 될 것입니다.