챗GPT·API, 90분간 대규모 먹통 후 복구…샘 알트먼 "수요 폭증 탓"

개발자 콘퍼런스에서 화려한 신기능을 쏟아낸 지 이틀 만에 서버가 버티지 못했습니다.

미국 동부 시간 수요일 오전, 챗GPT와 오픈AI의 API 서비스가 90분 넘게 전면 중단되는 대규모 먹통 사태가 발생했습니다. 접속을 시도한 이용자 화면에는 서버 용량이 꽉 찼다는 안내문만 나타났습니다.

데브데이 흥행이 부른 서버 마비

이번 장애는 챗GPT의 주간 활성 이용자 1억 명뿐만 아니라 오픈AI API를 사용하는 200만 명 이상의 개발자에게도 직접적인 피해를 줬습니다. 전날 밤에도 몇 시간 동안 일부 서비스 장애가 발생했던 터라 이용자들의 불안은 더 컸습니다.

오픈AI 최고경영자 샘 올트먼은 엑스를 통해 사과하며, 개발자 콘퍼런스에서 공개한 신기능의 사용량이 예상을 훨씬 웃돌고 있다고 밝혔습니다.

오픈AI는 월요일 GPT-4 터보와 맞춤형 챗봇 제작 도구인 GPTs를 발표한 바 있습니다. 올트먼은 급증한 트래픽 부하로 인해 단기적으로 서비스 불안정이 계속될 수 있다고 경고했습니다.

챗GPT는 지난 몇 달간 큰 장애 없이 안정적으로 운영되어 왔으나, 신기능 공개 직후 쏟아진 트래픽 폭증을 인프라가 감당해내지 못한 것으로 보입니다.

왜 중요한가

우리는 이번 90분간의 먹통 사태가 생성형 AI 생태계에 중요한 경고를 던졌다고 봅니다.

챗GPT와 오픈AI API는 이제 단순한 신기술 체험 도구가 아니라 기업과 개발자의 핵심 인프라로 자리 잡았습니다. API가 한 시간 반 동안 멈추면 이를 기반으로 돌아가는 수많은 외부 서비스와 업무 자동화 프로세스 전체가 마비됩니다.

따라서 오픈AI 단일 플랫폼에만 의존하는 개발 방식은 이제 명백한 리스크가 되었습니다. 다른 대체 모델을 예비 수단으로 연동하는 등 장애 대비 체계를 구축하는 작업이 필수가 되었습니다.

아울러 이번 사태는 모델의 지능뿐만 아니라 컴퓨팅 인프라의 안정성이 빅테크 간 경쟁의 진짜 승부처임을 보여줍니다. 아무리 뛰어난 기능을 내놓아도 서버가 버티지 못하면 플랫폼에 대한 신뢰는 순식간에 흔들릴 수밖에 없습니다.