OpenAI, API 전용 'Reserved Tier' 출시: 피크 시간대에도 컴퓨팅 용량 보장

AI 에이전트를 실제 서비스에 올려본 개발자라면 트래픽이 몰리는 순간 호출 한도에 걸려 시스템이 마비되는 아찔한 경험을 한 번쯤 해봤을 겁니다.

이러한 병목 현상을 방지하기 위해 OpenAI가 5월 19일 엔터프라이즈 고객을 위한 전용 컴퓨팅 예약 프로그램인 'Reserved Tier'를 내놓았습니다.

분당 달러 단위로 손쉽게 묶어두는 처리 용량

기존처럼 복잡한 GPU 슬롯이나 토큰 처리량을 일일이 계산할 필요가 없어졌습니다. Reserved Tier는 특정 모델에 대해 '분당 몇 달러'를 지불할지 직관적인 금액 단위로 처리량을 사전 구매하는 방식을 취합니다.

이렇게 확보한 예약 용량은 기존 API 호출 속도 제한에 그대로 추가됩니다. 표준(Standard) 모드와 고속(Fast) 모드는 물론 다양한 컨텍스트 길이와 리전 전반에서 자유롭게 사용할 수 있습니다.

트래픽이 순간적으로 예약 한도를 넘어서더라도 요청이 끊기지 않습니다. 초과된 사용량은 자동으로 일반 종량제 요금으로 전환되어 유연하게 처리됩니다.

예컨대 GPT-5.6에 분당 2달러 용량을 예약해 둔 상태에서 1분 동안 2.75달러어치 요청이 발생했다면, 2달러는 예약 범위 내에서 차감되고 초과분인 0.75달러만 일반 종량 요금으로 청구되는 방식입니다.

다만 대량의 비동기 작업을 처리하는 배치(Batch) 처리나 탄력 요금제인 Flex 처리에는 이 예약 계층이 적용되지 않습니다.

1~3년 장기 계약과 할인 구조

이 서비스는 엔터프라이즈 고객 대상 상품으로 영업팀 문의를 통해 신청할 수 있습니다.

기업은 1년에서 3년 단위의 약정 기간을 선택할 수 있으며, 연간 지출 규모가 클수록 할인율도 올라갑니다. 확보한 용량은 OpenAI의 전체 제품군과 지원되는 클라우드 환경 전반에서 유연하게 소진할 수 있습니다.

지원 모델 기준도 달라졌습니다. GPT-5.6 이전에 출시된 구형 모델의 경우 기존 Scale Tier가 적용되었으나, 최신 모델군부터는 이번 Reserved Tier를 통해 대규모 용량을 확보하게 됩니다.

왜 중요한가

24시간 중단 없이 돌아가야 하는 핵심 고객 응대 시스템이나 실시간 에이전트 워크플로를 운영하는 기업에 이번 예약제는 필수적인 안전장치입니다. 트래픽 폭주로 인한 먹통 사태를 피할 수 있다는 확신이 생겨야 기업들이 안심하고 핵심 업무를 AI에 맡길 수 있기 때문입니다. 다만 최대 3년에 달하는 대규모 약정을 감당해야 한다는 점은 여전히 부담스러운 진입 장벽입니다.

업계 전반으로 보면 OpenAI가 기존 클라우드 인프라의 '예약 인스턴스' 모델을 거대 언어 모델 시장에 본격적으로 이식하고 있습니다. 대기업의 장기 예산을 선점해 막대한 컴퓨팅 투자 비용을 회수하는 동시에 경쟁사로의 이탈을 막는 락인 효과를 노린 셈입니다.

'분당 달러'라는 명확한 단위를 도입해 예산 계획을 세우기 쉽게 만든 점은 영리하지만, 배치와 Flex 처리를 지원 대상에서 제외한 만큼 중요도가 떨어지는 백그라운드 작업은 여전히 일반 대기열을 감수해야 할 것으로 보입니다.