벡터 DB 스타트업 파인콘, 1억 달러 시리즈 B 유치… 기업가치 7.5억 달러

대규모 언어 모델(LLM)의 장기 기억 장치 역할을 하는 뉴욕 기반 벡터 데이터베이스 스타트업 파인콘(Pinecone)이 1억 달러 규모의 시리즈 B 투자를 유치했다. 기업 가치는 7억 5,000만 달러로 평가받았으며, 이번 라운드는 앤드리슨 호로위츠(a16z)가 주도했다.

GPT-4 같은 모델이 뛰어난 두뇌라면, 벡터 데이터베이스는 필요한 정보를 빠르게 찾아주는 외장 하드드라이브에 비유할 수 있다.

챗GPT와 자율 에이전트 열풍 타고 급성장

파인콘은 아마존 AI 랩스 총괄 출신인 에도 리버티(Edo Liberty)가 2021년 설립했다. AI 모델이 만든 임베딩 벡터를 효율적으로 저장하고 검색할 수 있는 완전 관리형 서비스를 제공한다.

지난해 가을 챗GPT가 등장한 이후, AI의 고질적 문제인 환각(hallucination)을 줄이고 기업 내부 데이터와 챗봇을 연결하려는 수요가 폭발했다. 2023년 들어 파인콘은 재피어(Zapier)와 공(Gong)을 비롯한 다양한 유료 고객사를 빠르게 확보했다.

최근 개발자 커뮤니티를 달군 오토GPT(Auto-GPT)와 베이비AGI(BabyAGI) 같은 자율 AI 에이전트도 성장을 견인했다. 두 프로젝트 모두 장기 기억 저장소로 파인콘을 채택했으며, 리버티 CEO에 따르면 한때 하루 가입자 수가 1만 명에 달하기도 했다.

경쟁 심화와 200만 토큰 아키텍처 논란

시장 경쟁도 치열해지고 있다. 크로마(Chroma), 위비에이트(Weaviate), 밀버스(Milvus) 같은 전용 데이터베이스들이 각축전을 벌이는 중이다.

기술적 도전도 만만치 않다. 최근 트위터 등에서는 LLM이 최대 200만 토큰까지 정보를 유지할 수 있게 돕는 RMT(Recurrent Memory Transformer) 논문이 화제가 되며, 장기적으로 벡터 데이터베이스의 필요성이 줄어드는 것 아니냐는 논쟁이 일었다.

하지만 RMT는 추론 시간이 지나치게 길다는 한계가 지적된다. 파인콘의 마케팅 부사장 그렉 코건(Greg Kogan)은 연구실 실험 결과와 실제 대규모 엔터프라이즈 환경 사이에는 비용, 성능, 엔지니어링 리소스 측면에서 큰 격차가 존재한다고 선을 그었다.

왜 중요한가

자체 데이터를 활용해 신뢰할 수 있는 AI 챗봇이나 자율 에이전트를 개발하려는 엔지니어에게 관리형 벡터 데이터베이스는 여전히 진입 장벽을 가장 크게 낮춰주는 도구다. 인프라 운영 부담 없이 검색 증강 생성(RAG)을 구현하고자 한다면 지금 바로 도입을 검토할 만한 선택지다.

업계 관점에서는 a16z의 1억 달러 베팅을 통해 벡터 데이터베이스가 AI 소프트웨어 스택의 필수적인 '기억 계층'으로 공식 인정받았음을 알 수 있다. LLM 자체의 컨텍스트 창이 커지더라도 비용과 지연 시간 문제 때문에 외부 벡터 검색 수요는 상당 기간 유지될 가능성이 높다.

다만 파인콘의 앞날이 순탄하기만 한 것은 아니다. 초기 시장을 빠르게 선점했지만 오픈소스 경쟁자들의 추격이 거세고, 기존 전통적 RDBMS들도 벡터 확장 기능을 잇달아 탑재하고 있다. 인프라 단순화 이상의 차별화된 가치를 증명하지 못한다면 장기적인 수수료 모델이 도전을 받을 수 있다고 본다.