차세대 AI 개발에 '벽'…데이터 고갈로 OpenAI·구글 진화 둔화

데이터와 컴퓨팅 파워를 무작정 쏟아붓기만 하면 AI가 알아서 기하급수적으로 똑똑해지던 시기가 이제 한계에 부딪힌 것으로 보입니다.

블룸버그 등 외신에 따르면 OpenAI, 구글, 앤트로픽 등 생성형 AI를 선도해 온 빅테크 기업들이 차세대 모델을 개발하는 과정에서 심각한 성능 정체와 한계에 직면했습니다. 가장 큰 원인은 새로운 고품질 학습 데이터의 고갈입니다.

기대에 못 미친 Orion, GPT-4 같은 도약은 없었다

가장 주목받던 OpenAI의 차기 모델 Orion은 지난 9월 초기 학습을 마쳤습니다. 회사 측은 기존 버전을 크게 뛰어넘어 인간 수준의 지능에 더 가까워질 것으로 기대했습니다.

하지만 내부 사정에 정통한 관계자들에 따르면 Orion의 실제 성능은 목표치에 도달하지 못했습니다. 특히 지난 늦여름 테스트에서는 학습 데이터셋에 포함되지 않은 새로운 코딩 문제를 해결하는 데 큰 어려움을 겪은 것으로 전해졌습니다. 내부에서는 GPT-3.5에서 GPT-4로 넘어갈 때 목격했던 수준의 극적인 도약은 아니라는 평가가 지배적입니다.

이 같은 문제는 다른 빅테크도 마찬가지입니다. 구글의 최신 제미나이 모델 역시 내부 목표치를 충족하지 못했고, 앤트로픽은 많은 기대를 모았던 클로드 3.5 오푸스 출시를 미루며 기술적 난관에 부딪혔음을 시사했습니다.

고갈된 웹 데이터와 감당하기 힘든 비용

대규모 언어 모델들은 이미 공개된 인터넷상의 텍스트 데이터를 거의 다 흡수했습니다. 이제 남은 데이터는 저작권 장벽에 가로막혀 있으며, 샘 올트먼 역시 저작권이 있는 자료 없이 최첨단 모델을 구축하는 것은 불가능에 가깝다고 인정할 정도입니다.

천문학적인 비용 문제도 발목을 잡고 있습니다. OpenAI는 최근 마이크로소프트와 엔비디아 등으로부터 66억 달러를 투자받아 기업가치 1570억 달러를 인정받았지만, 그 직전까지 50억 달러 규모의 적자가 예상되던 상황이었습니다. 2029년 전까지는 흑자 전환이 어려울 것이라는 분석이 나오는 가운데, 막대한 인프라 비용 대비 성능 향상 폭이 둔화된다면 투자자들의 압박은 더욱 거세질 수밖에 없습니다.

왜 중요한가

개발자와 일반 사용자 입장에서는 몇 달마다 기적 같은 차세대 모델이 나타나 모든 작업을 대신해 줄 것이라는 막연한 기대감을 내려놓을 때가 됐습니다. 이제는 모델 자체의 혁신만을 기다리기보다는 현재 공개된 모델의 한계를 명확히 인식하고, 이를 워크플로나 프롬프트 구조로 보완하는 현실적인 활용 능력이 훨씬 중요해졌습니다.

산업 전반으로 보면 웹 데이터를 무차별적으로 긁어모아 모델 덩치만 키우던 무식한 스케일링 법칙이 벽을 만났음을 의미합니다. 이제 빅테크 기업들은 단순 사전 학습을 넘어 합성 데이터 생성이나 추론 단계의 강화 학습 같은 새로운 기술적 돌파구를 찾아야만 하는 상황에 몰렸습니다.

우리는 이러한 기술적 정체가 AI 거품을 걷어내는 계기가 될 것으로 봅니다. 천문학적인 인프라 비용을 태우면서도 성능 향상이 미미하다면, 막연한 AGI 환상에 기대어 수십억 달러씩 쏟아붓던 투자 공식은 더 이상 지속되기 어렵기 때문입니다.