오픈AI, 실시간 모델·도구 라우팅 지원하는 '디시전스 API' 공개 베타 출시

AI 에이전트를 개발할 때 어떤 툴을 호출할지 결정하거나 유저의 요청을 분류하는 작업은 매번 속도와 비용이라는 걸림돌을 만납니다.

OpenAI가 이러한 분기 판단을 거의 실시간으로 처리할 수 있는 신규 기능인 Decisions API를 공개 베타로 출시했습니다. 현재 모든 개발자가 이용할 수 있습니다.

GPT-6 Luna 기반으로 10배 빨라진 의사결정

Decisions API는 GPT-6 Luna를 기반으로 작동합니다.

기존 Responses API를 통해 GPT-6 Luna를 호출할 때보다 최대 10배 빠르게 판단을 내리는 점이 특징입니다.

텍스트와 이미지 입력을 모두 지원하며, 출력 결과는 세 가지 형태로 제한되어 명확합니다.

특정 진술이 참일 확률을 추정하는 서술형(Predicates), 사전 정의된 옵션 중 신뢰도 점수와 함께 선택하는 선택형(Choices), 지정된 숫자 범위 내에서 입력을 평가하는 점수형(Scores)입니다.

이 덕분에 요청 라우팅, 데이터셋 분류, 이미지 분석, 폼 내비게이션, 위험한 도구 호출 차단 등 판단이 필요한 작업에 최적화되어 있습니다.

출력 토큰 비용은 0원, 입력만 과금

가격 책정 역시 기존의 텍스트 생성 API와는 완전히 다릅니다.

GPT-6 Luna 기준으로 100만 입력 토큰당 0.10달러가 부과됩니다.

주목할 점은 오직 입력 토큰에 대해서만 비용이 발생한다는 사실입니다. 캐시 읽기나 캐시 쓰기 비용은 물론이고, 출력 토큰에 대한 비용이 전혀 청구되지 않습니다.

왜 중요한가

에이전트 시스템에서 라우팅과 안전성 검사는 수시로 호출되는 핵심 단계입니다. 여기서 지연 시간이 수백 밀리초 단위로 발생하면 전체 사용자 경험이 무너집니다.

우리가 보기에 이번 조치는 라우터와 가드레일 레이어의 진입 장벽을 완전히 허물었습니다. 백만 토큰당 0.10달러에 출력 비용도 없기 때문에, 복잡한 판단 파이프라인을 구축 중인 개발자라면 지금 즉시 테스트해볼 가치가 충분합니다.

업계 전반으로 보면 가벼운 오픈소스 분류 모델을 자체 서빙하던 중간 미들웨어 업체들에게 상당한 압박이 될 것으로 보입니다.

다만 이 API에 맞춰 의사결정 로직을 설계할수록 시스템의 뼈대가 OpenAI 생태계에 깊게 종속될 수 있다는 점은 염두에 두어야 합니다.