250억 달러 몰린 대형언어모델 열풍, GPU 사재기 속 버블 붕괴 조짐

2022년 말 암호화폐 시장이 급락하자 갈 곳을 잃은 벤처캐피털 자금은 일제히 대형언어모델(LLM)로 쏠렸습니다. 챗GPT가 출시 5일 만에 100만 사용자를 모으면서 불붙은 열풍은 2023년 상반기에만 250억 달러가 넘는 투자금을 빨아들였습니다.

하지만 화려한 투자 유치 소식 이면에서는 이미 거대한 거품이 꺼져가고 있다는 경고음이 울리고 있습니다.

250억 달러의 행방, 연구개발 대신 엔비디아로

피치북 조사에 따르면 설문에 참여한 투자자의 74%가 최소 한 개 이상의 AI 스타트업에 투자했고, 14%는 여섯 개가 넘는 기업에 자금을 넣었습니다. 인플렉션 AI는 챗봇 파이를 앞세워 40억 달러 기업가치에 13억 달러를 유치했고, 앤트로픽은 4억 5000만 달러를 확보했습니다. 미스트랄 AI는 제품이나 개념 검증조차 없는 상태에서 1억 1300만 달러의 시드 투자를 받았습니다.

문제는 수천억 원에 달하는 투자금이 연구개발이나 실질적인 서비스 혁신이 아닌, 엔비디아 GPU 사재기에 고스란히 쓰이고 있다는 점입니다.

업계 분석에 따르면 중국 빅테크를 제외하고도 시장이 요구하는 H100 GPU 수요는 약 43만 2000개에 달합니다. 개당 3만 5000달러 수준인 점을 감안하면 하드웨어 구매에만 약 150억 달러가 소모되는 셈입니다. GPT-4 훈련에 1만~2만 5000개의 A100이 쓰였던 것과 비교하면 비정상적인 규모입니다. 안드레이 카파시가 언급했듯 실리콘밸리의 최고 관심사가 오직 '누가 H100을 몇 장 확보했는가'로 변질된 상황입니다.

껍데기뿐인 API 모델과 꺾이기 시작한 트래픽

자체 원천 모델을 만드는 극소수를 제외하면, 수많은 AI 스타트업은 오픈AI의 API를 끌어다 쓰는 이른바 '래퍼' 서비스에 불과합니다. 15억 달러 기업가치로 1억 2500만 달러를 유치했던 재스퍼 AI가 대표적입니다. 독자적인 지식재산권(IP)이 없다 보니 시장 열기가 식자마자 타격을 입었고, 재스퍼와 마케팅 스타트업 뮤티니는 최근 인력의 30% 안팎을 감원했습니다.

핵심 서비스들의 지표도 꺾이고 있습니다. 챗GPT의 트래픽은 출시 이후 처음으로 감소세를 기록했고 구글 바드나 빙 챗봇 역시 뚜렷한 반등을 만들지 못하고 있습니다. 여기에 스탠퍼드대 연구진이 GPT-3.5와 GPT-4의 특정 작업 수행 능력이 시간이 지나면서 눈에 띄게 나빠졌다는 분석을 내놓으며 기술적 한계에 대한 우려도 커졌습니다.

왜 중요한가

우리는 이번 분석이 지적한 본질적 문제, 즉 'GPU 확보 경쟁'을 '비즈니스 해자'로 착각하고 있는 현실에 주목해야 한다고 봅니다. 스타트업들이 투자금을 받아 엔비디아와 클라우드 공급사에 그대로 납부하는 구조에서는 지속 가능한 부가가치가 창출되기 어렵습니다.

개발자와 창업자 관점에서 보면 단순 API 재포장 서비스의 수명은 사실상 끝났습니다. 고유한 데이터셋이나 특화된 업무 흐름을 장악하지 못하면 기반 모델 업체의 업데이트 한 번에 사업 전체가 무너질 수밖에 없습니다.

전문가들은 2024년 말이면 GPU 공급 부족이 점차 완화될 것으로 내다보고 있습니다. 칩셋 품귀라는 장막이 걷히고 유동성 거품이 꺼지는 순간, 자체 IP와 현금 창출 능력이 없는 스타트업들은 급격한 구조조정을 피하기 어려울 것으로 보입니다.