생성형 AI의 경제학: 파운데이션 모델이 깨뜨린 전통적 AI의 한계

지난 10여 년간 수많은 스타트업이 AI를 앞세워 높은 소프트웨어 마진을 약속했지만, 정작 막대한 돈을 번 곳은 구글이나 메타 같은 빅테크였습니다. 순수 AI 스타트업들은 기대만큼의 확장성을 보여주지 못한 채 정체되곤 했습니다.

실리콘밸리 벤처캐피털 a16z가 발표한 분석은 왜 전통적인 AI가 매력적인 비즈니스 모델을 만들지 못했는지, 그리고 생성형 AI가 이 판도를 어떻게 뒤집고 있는지를 경제학적 관점에서 짚어냈습니다.

체리 수확의 함정과 평범함의 나선

전통적 AI 스타트업이 실패한 이유는 기술이 부족해서가 아니라 정확도를 높이는 데 드는 한계 비용이 비정상적으로 치솟았기 때문입니다.

예를 들어 체리를 수확하는 로봇을 만들 때 정확도 80%를 달성하는 데 2000만 달러가 든다면, 90%에는 2억 달러, 95%에는 10억 달러가 들어갈 수 있습니다. 꼬리 문제라 불리는 극단적인 예외 상황을 잡으려다 보면 자본 수익률이 급격히 떨어집니다. 선발 주자가 연구개발비를 쏟아부으며 길을 닦아놓으면 후발 주자가 훨씬 적은 비용으로 이를 따라잡는 역해자 현상까지 발생합니다.

여기에 더해 탄소 기반 생명체인 인간은 생각보다 너무 뛰어난 경쟁 상대였습니다. 인간의 뇌는 죽 한 그릇과 150와트 안팎의 에너지만으로 작동하며 지각 작업에는 고작 12와트 정도만 씁니다. 반면 고성능 자율주행차 연산 장치는 1300와트 이상을 소모합니다. 전 세계 평균 시급이 5달러 수준인 상황에서 자율주행에 약 750억 달러가 투입되었음에도 인간 운전자에 비해 당장 뛰어난 경제성을 확보하기 어려웠던 이유입니다.

결국 스타트업들은 a16z가 명명한 'AI 평범함의 나선'에 빠져들었습니다. 초기 정확도를 메우기 위해 인력을 고용해 80%는 AI가 처리하고 20%의 예외는 사람이 처리하는 구조를 짭니다. 성장 압박에 쫓기다 보면 알고리즘을 고도화하기보다 사람을 더 뽑아 매출을 맞추게 되고, 결국 소프트웨어 기업이 아닌 마진율 낮은 인력 집약형 외주 서비스 기업으로 굳어지는 것입니다.

오차 허용과 새로운 행동 양식

생성형 AI와 파운데이션 모델이 게임의 룰을 바꾼 지점은 바로 이 비용 구조의 탈출구를 찾았다는 데 있습니다.

우선 틀리면 치명적인 영역에서 벗어났습니다. 자율주행이나 은행 수표 인식과 달리 텍스트나 이미지를 만드는 작업은 정답이 정해져 있지 않고 오차에 대한 사용자의 허용도가 높습니다. 백오피스에 수많은 검수 인력을 대기시킬 필요가 크게 줄어든 셈입니다.

또한 기존 대기업 제품의 보조 기능에 머물지 않고 완전히 새로운 사용자 행동을 이끌어냈습니다. 챗GPT가 기존 소셜 그래프의 도움 없이 단 5일 만에 100만 사용자를 모은 전례 없는 속도는 이러한 잠재력을 단적으로 보여줍니다.

왜 중요한가

우리는 a16z의 이번 분석이 현재 생성형 AI 기반 서비스를 만드는 창업자와 투자자들에게 매우 명확한 기준점을 제시한다고 봅니다. 제품의 성패는 모델의 크기보다 그 서비스가 감당해야 하는 오차 허용 범위에 달려 있습니다.

만약 절대 틀려서는 안 되는 핵심 워크플로를 자동화하겠다고 나선다면, 과거의 AI 스타트업처럼 수많은 사람을 투입해 뒷수습을 하느라 소프트웨어 특유의 고마진을 스스로 깎아먹는 함정에 다시 빠질 위험이 큽니다.

지금 시도해볼 가치가 있는 영역은 모호함과 다양성이 허용되고 사용자의 창작이나 업무 효율을 비약적으로 끌어올리는 분야입니다. 그곳에서 AI는 비용 구덩이가 아니라 진짜 생산성 지렛대가 됩니다.

다만 인건비 중심의 나선에서 벗어났다고 해서 장밋빛 미래만 있는 것은 아닙니다. 이제 스타트업들은 인건비 대신 막대한 추론 연산 비용과 빅테크 모델 제공사로의 종속이라는 새로운 경제적 난제와 마주하고 있습니다. 진정한 고마진을 증명해 내는 팀만이 살아남을 것으로 보입니다.