AI 칩 스타트업 그록, 6억 4000만 달러 투자 유치…얀 르쿤 고문 합류

Groq의 웹 데모에서 텍스트가 화면에 쏟아져 나오는 속도를 한 번이라도 경험해 봤다면 깊은 인상을 받았을 것입니다. 모델이 한 글자씩 느리게 생성되던 기존 클라우드 환경과 달리, 이 반도체 스타트업은 압도적인 추론 속도로 기술적 입지를 다져왔습니다.

Groq은 Blackrock이 주도한 최신 펀딩 라운드에서 6억 4000만 달러 규모의 투자를 유치했다고 밝혔습니다. 이번 라운드에는 Neuberger Berman, Type One Ventures, Cisco, KDDI, Samsung Catalyst Fund 등이 참여했습니다. 이로써 Groq의 총 누적 투자 유치액은 10억 달러를 넘어섰으며, 기업가치는 28억 달러로 평가받았습니다. 이는 2021년 4월 기록한 10억 달러 가치 대비 두 배 이상 뛴 수치이며, 당초 목표했던 3억 달러 유치 계획을 크게 웃돈 성과입니다.

얀 르쿤 영입과 인텔 전 임원의 합류

자금 조달과 함께 발표된 인선도 업계의 이목을 끌었습니다. Meta의 수석 AI 과학자인 Yann LeCun이 기술 자문으로 합류했습니다. Meta가 자체 AI 반도체를 적극 개발하고 있는 상황을 고려하면 다소 이례적인 행보입니다. 또한 인텔 파운드리 사업부 수장이자 전 HP 최고정보책임자였던 Stuart Pann이 최고운영책임자 COO로 정식 취임했습니다.

Groq은 Google에서 TPU 개발을 이끌었던 Jonathan Ross가 공동 설립한 기업입니다. 핵심 제품인 LPU(언어 처리 장치) 추론 엔진은 ChatGPT나 GPT-4o와 유사한 아키텍처의 모델을 기존 프로세서 대비 10배 빠른 속도와 10분의 1 수준의 전력으로 구동할 수 있다고 내세웁니다.

개발자 플랫폼인 GroqCloud는 Meta의 Llama 3.1, Google Gemma, Mistral Mixtral 등을 제공하며 7월 기준 35만 6000명 이상의 등록 개발자를 확보했습니다. Stuart Pann COO는 포춘 100대 기업 중 75% 이상의 소속 개발자들이 이미 자사 플랫폼을 이용하고 있다고 밝혔습니다.

10만 개 칩 배치를 향한 인프라 확장

Groq은 단순 API 서비스를 넘어 대형 데이터센터 인프라 시장 공략을 본격화하고 있습니다. 지난 3월 Definitive Intelligence를 인수해 출범시킨 Groq Systems를 통해 정부 기관 및 주권 데이터센터 구축 수요를 공략 중입니다.

이미 미국 공공 IT 조달업체 Carahsoft와의 파트너십을 맺었고, 노르웨이 Earth Wind & Power의 데이터센터에 수만 대의 LPU를 공급하는 의향서를 체결했습니다. 중동에서는 사우디 아람코 디지털과 협력해 데이터센터 구축을 추진하고 있습니다. 하드웨어 역시 기존 13나노 공정에서 벗어나 삼성전자 파운드리의 4나노 공정을 적용한 차세대 LPU를 양산할 계획이며, 2025년 1분기 말까지 10만 8000개 이상의 LPU를 배치한다는 목표입니다.

왜 중요한가

개발자와 기업 입장에서 Groq은 오픈소스 대형 언어 모델을 실시간 상용 서비스 수준의 속도로 구동할 수 있음을 입증했습니다. 실시간 음성 에이전트나 코딩 자동완성처럼 응답 지연 시간이 핵심인 서비스를 구축하고 있다면 GroqCloud는 지금 즉시 검토해 볼 만한 인프라입니다. 다만 고속 온칩 메모리에 의존하는 구조 특성상 대규모 콘텍스트 처리 시 비용과 효율성 문제가 발생할 수 있다는 한계도 분명합니다.

산업 전반으로 보면 AI 경쟁의 중심축이 대규모 학습에서 본격적인 대량 추론으로 넘어가고 있음을 보여줍니다. 엔비디아가 시장 점유율의 70%에서 95%를 장악하고 있지만, 클라우드 빅테크의 자체 칩 개발과 Etched, D-Matrix 같은 특화 스타트업들의 도전이 거세지고 있습니다.

우리는 Groq이 뛰어난 속도 체감으로 개발자 생태계를 선점한 뒤 각국 정부와 데이터센터 시장으로 확장하는 전략을 매우 영리하게 펼치고 있다고 봅니다. 그러나 연구실 수준의 모델 가속을 넘어 10만 개가 넘는 대규모 칩 클러스터를 안정적으로 운영해야 하고, 매년 신규 아키텍처를 쏟아내는 엔비디아의 공세를 버텨내야 한다는 거대한 과제가 남아 있습니다.