오픈AI, 오라클 클라우드로 AI 연산력 확장…추론 인프라 보강

마이크로소프트의 전폭적인 지원을 받는 OpenAI조차 밀려드는 연산 수요를 감당하기에는 역부족인 상황입니다.

OpenAI와 마이크로소프트는 이번 주 ChatGPT 구동에 필요한 연산 용량을 추가로 확보하기 위해 오라클과 손을 잡았습니다. 이번 협력으로 OpenAI는 오라클의 클라우드 인프라(OCI) 위에서 마이크로소프트의 Azure AI 플랫폼을 활용할 수 있게 됩니다.

OpenAI의 샘 올트먼 CEO는 서비스 운영에 훨씬 더 많은 인프라가 필요하다는 점을 숨기지 않아 왔으며, 자체 AI 칩 벤처를 위해 수십억 달러의 펀딩을 논의하기도 했습니다. 올트먼은 이번 발표에서 오라클의 칩이 OpenAI의 지속적인 규모 확장을 가능하게 할 것이라고 밝혔습니다.

MS 혼자서는 감당 안 되는 ChatGPT의 연산 수요

지금까지 OpenAI는 연산 수요 전반을 마이크로소프트에 전적으로 의존해 왔습니다. 마이크로소프트는 OpenAI의 영리 자회사에 130억 달러를 투자해 49%의 지분을 보유하고 기술에 대한 독점 상업 라이선스를 확보한 상태입니다.

하지만 이번 계약은 ChatGPT의 접속 장애를 막고 폭증하는 수요를 맞추기 위해 마이크로소프트 혼자 감당할 수 있는 수준을 이미 넘어섰음을 보여줍니다.

흥미로운 점은 오라클이 일론 머스크의 xAI에도 클라우드 인프라를 공급하고 있다는 사실입니다. OpenAI와 xAI라는 두 맞수가 오라클 인프라를 나란히 쓰게 된 셈입니다.

모델 훈련은 MS에 남기고, 추론은 오라클로 분산

마이크로소프트와 OpenAI는 이번 거래가 시장에 미칠 파장을 상당히 의식하고 있습니다. OpenAI는 수요일 후속 성명을 내고 마이크로소프트와의 전략적 클라우드 파트너십은 변함이 없다고 서둘러 진화에 나섰습니다.

역할 분담도 분명히 했습니다. 프론티어 모델의 사전 훈련(pre-training)은 앞으로도 마이크로소프트와 함께 구축한 슈퍼컴퓨터에서만 진행됩니다.

오라클의 인프라는 주로 추론(inference), 즉 사용자가 질문을 던졌을 때 모델이 답변을 생성하는 실제 운영 작업과 기타 수요에 투입됩니다.

왜 중요한가

일반 사용자와 개발자 입장에서는 ChatGPT의 잦은 멈춤이나 응답 지연이 줄어드는 것이 가장 직접적인 체감 혜택입니다. 서비스를 실무에 깊게 통합한 사용자일수록 인프라 안정화는 유료 구독 가치를 좌우하는 핵심 요소입니다.

우리는 마이크로소프트가 클라우드 시장 경쟁자인 오라클의 합류를 허용한 것 자체가 현재 AI 인프라 공급난이 얼마나 심각한지를 보여주는 상징적 장면이라고 봅니다. 독점적 협력 체제를 강조하는 것보다 OpenAI의 서비스 마비를 막는 것이 더 시급했던 셈입니다.

가장 중요한 모델 훈련 자산은 마이크로소프트에 묶어두고, 일상적인 추론 부담만 외부로 분산시키는 전략은 실용적입니다. 하지만 최정상 AI 기업조차 단일 빅테크의 품을 벗어나 칩을 찾아다녀야 할 만큼, 하드웨어 물리적 한계가 AI 발전 속도를 제한하는 병목으로 굳어지고 있음을 여실히 드러냅니다.