OpenAI, ChatGPT 및 Whisper API 출시: 기존 대비 90% 저렴한 가격

지난 몇 달간 ChatGPT를 서비스에 도입하려던 개발자들은 웹 화면을 긁어오는 편법을 쓰거나, 값비싼 text-davinci-003의 API 비용을 감당해야 했다.

이제 그럴 필요가 없어졌다. 3월 1일, OpenAI가 마침내 GPT-3.5 Turbo와 음성인식 모델 Whisper의 공식 API를 출시했다.

가장 눈에 띄는 것은 파격적인 가격이다. OpenAI는 지난해 12월 이후 시스템 전반의 최적화를 통해 ChatGPT 운영 비용을 90% 절감했다고 밝혔다. 이를 바탕으로 출시된 gpt-3.5-turbo 모델의 가격은 1,000토큰당 0.002달러로 책정됐다. 기존 GPT-3.5 모델보다 10배 저렴한 수준이다.

10분의 1로 낮춘 가격, 기업용 보안 우려도 해소

단순히 가격만 낮춘 것이 아니다. OpenAI는 기업 고객들이 가장 민감하게 여기던 데이터 프라이버시 정책도 대폭 손질했다.

가장 핵심적인 변화는 학습 데이터 정책이다. 사용자가 명시적으로 동의하지 않는 한, API를 통해 전송된 데이터는 모델 학습에 기본적으로 사용되지 않는다. 데이터 보관 주기도 기본 30일로 단축되었으며, 입력값과 출력값에 대한 소유권이 전적으로 사용자에게 있음을 약관에 못 박았다.

앱 출시 전에 거쳐야 했던 사전 심사 절차도 폐지되어 개발 속도가 한층 빨라졌다. 하루 4억 5,000만 토큰 이상을 사용하는 대규모 고객을 위해 Azure 기반의 전용 인스턴스 옵션도 도입됐다. 이를 통해 모델 버전을 고정하거나 더 긴 컨텍스트 길이를 확보할 수 있다.

작년 9월 오픈소스로 공개됐던 음성 인식 모델 Whisper 역시 대규모 인프라 구축 없이 API로 쓸 수 있게 됐다. 최고 성능의 large-v2 모델을 분당 0.006달러라는 저렴한 비용으로 호출해 전사와 영어 번역을 수행할 수 있다.

기술적으로 gpt-3.5-turbo는 기존의 단순 텍스트 입력 대신 ChatML 기반의 메시지 배열 구조를 채택했다. 초기 버전인 gpt-3.5-turbo-0301은 최소 6월 1일까지 지원되며, 4월 중 새로운 안정 버전이 제공될 예정이다.

대형 파트너사들은 이미 발 빠르게 움직이고 있다. 월간 사용자 7억 5,000만 명을 보유한 스냅은 유료 구독 서비스에 My AI 챗봇을 도입했고, 퀴즐렛, 인스타카트, 쇼피파이 등도 잇달아 관련 기능을 발표했다. 한국의 영어 교육 앱 스픽 또한 Whisper API를 활용해 대화형 학습 기능을 확장 중이다. 한편 OpenAI는 지난 두 달간의 서비스 가동 시간이 기대에 못 미쳤음을 인정하며, 안정성 확보를 엔지니어링 최우선 과제로 삼겠다고 덧붙였다.

왜 중요한가

1,000토큰당 0.002달러는 생성형 AI 시장의 판도를 바꾸는 변곡점이다. 텍스트 수십만 자를 처리하는 데 몇 백 원 수준이면 충분해지면서, 그동안 비용 문제로 시도조차 못 했던 수많은 가벼운 봇과 부가 기능들이 단번에 상용화 궤도에 오르게 됐다.

후발 주자들에게는 가혹한 기준선이 그어졌다. 다른 AI 기업들은 모델의 성능을 입증하는 것뿐 아니라, OpenAI가 달성한 압도적인 단가 경쟁력과도 싸워야 한다. 이제 경쟁의 핵심은 단순히 거대한 모델을 만드는 데 그치지 않고, 인프라를 얼마나 극한으로 최적화할 수 있느냐로 옮겨갔다.

API 입력 데이터를 학습에 쓰지 않겠다고 선언한 점 역시 똑똑한 한 수다. 데이터 유출을 극도로 경계하던 보수적인 기업 고객들이 실제 핵심 업무에 AI를 연동할 수 있도록 물꼬를 텄기 때문이다.