OpenAI, 초당 1000토큰 코딩 모델 GPT-5.3-Codex-Spark 공개

AI로 코딩할 때 개발자를 가장 지치게 만드는 것은 모델의 지능 부족보다 출력창을 멍하니 바라보며 기다려야 하는 시간입니다. 간단한 리팩터링조차 생성 속도가 느리면 집중 흐름이 끊기기 마련입니다.

OpenAI가 2월 12일 실시간 코딩 작업에 특화된 경량 모델 GPT-5.3-Codex-Spark를 연구 프리뷰로 공개했습니다. 초당 1000개 이상의 토큰을 뿜어내며 거의 지연 없는 실시간 상호작용을 지원합니다.

지난달 발표된 반도체 기업 세레브라스(Cerebras)와의 100억 달러 규모 다년 파트너십에서 나온 첫 번째 결과물입니다.

4조 개 트랜지스터를 품은 대형 칩과 통신망 재설계

초당 1000토큰 속도의 핵심은 세레브라스의 3세대 웨이퍼 스케일 엔진(WSE-3)입니다. 4조 개의 트랜지스터가 집적된 이 초대형 전용 칩은 초저지연 추론에 최적화되어 있습니다.

IPO를 준비 중인 세레브라스는 지난주 기업가치 230억 달러를 인정받으며 10억 달러의 신규 투자를 유치한 바 있습니다. 대량의 배치 작업은 여전히 GPU가 맡지만, 즉각적인 반응이 필요한 영역에 세레브라스 하드웨어를 배치한 셈입니다.

OpenAI는 칩 교체뿐 아니라 클라이언트와 서버 간 전송 인프라도 완전히 뜯어고쳤습니다. 기본 연결 방식을 영구 WebSocket으로 전환해 왕복 지연 시간을 80% 줄였고, 첫 번째 토큰이 출력되기까지 걸리는 시간을 50% 단축했습니다.

Spark는 128k 컨텍스트 창을 지원하며 텍스트 입력만 가능합니다. 에이전트 엔지니어링 능력을 평가하는 SWE-Bench Pro와 Terminal-Bench 2.0에서 기존 거대 모델 대비 훨씬 짧은 시간 안에 강력한 성능을 기록했다고 밝혔습니다.

현재 ChatGPT Pro 구독자를 대상으로 Codex 앱, CLI, VS Code 확장에서 연구 프리뷰 형태로 제공되며, 일반 사용량 한도와 분리된 별도 제한이 적용됩니다.

왜 중요한가

지난 1년간 업계가 몇 시간씩 혼자 작업하는 자율 에이전트 경쟁에 몰두했던 반면, 실제 개발 현장에서 가장 절실했던 것은 즉각적인 티키타카였습니다. OpenAI가 반응 속도에 집중한 경량 모델을 내놓은 것은 매우 영리한 선택입니다.

개발자라면 지금 바로 VS Code에서 써볼 가치가 충분합니다. 초당 1000토큰은 함수 수정 요청을 넣자마자 로컬 도구가 코드를 자동 완성해 주는 듯한 즉시성을 제공해 몰입을 유지해 줍니다.

반도체 시장 측면에서도 GPU 독점 구조에 균열을 낸 중요한 사건입니다. 일반적인 대용량 처리에는 GPU가 여전히 비용 효율적이지만, 극단적인 저지연 환경에서는 세레브라스 같은 전용 가속기가 필수적임을 상용 서비스로 입증했습니다.

다만 하드웨어 수급 한계는 명확한 숙제입니다. 특수 웨이퍼 칩의 특성상 데이터센터 확충이 쉽지 않아 사용자가 몰릴 경우 대기열이 발생할 수 있습니다. 이 놀라운 속도를 더 넓은 사용자층까지 안정적으로 유지할 수 있을지가 앞으로의 관건입니다.