OpenAI, GPT-6 Luna 기반 'Decisions API' 공개: 실시간 앱 의사결정 지원

모델에게 단순한 선택을 시키기 위해 길고 복잡한 프롬프트를 작성하는 일은 개발자들에게 늘 번거로운 과정이었습니다.

OpenAI는 9월 29일, GPT-6 Luna 기반으로 실시간 의사결정 기능을 제공하는 Decisions API를 공개했습니다.

조건 분기를 객관식 문제로 단순화

작동 방식은 직관적입니다. 개발자가 질문과 선택 가능한 답변 목록을 정의해 두기만 하면 됩니다.

텍스트뿐만 아니라 이미지도 맥락 데이터로 입력할 수 있습니다. 예를 들어 고객 지원 요청 내용과 여러 부서 목록을 함께 넣으면, API가 처리할 적절한 부서를 즉시 골라 반환합니다. 요청 라우팅 외에도 콘텐츠 분류나 에이전트의 다음 행동을 결정하는 용도로 활용됩니다.

현재 일부 API 사용자를 대상으로 제한적 프리뷰가 진행 중이며, 며칠 내에 정식 출시될 예정입니다.

왜 중요한가

기존에는 선택지 분류를 위해 복잡한 구조화 출력 로직을 짜야 했고, 이는 비용과 지연 시간 낭비로 이어졌습니다. 가볍고 빠른 GPT-6 Luna를 활용해 분기 결정을 전용 API로 분리해 낸 것은 실용적인 접근입니다.

특히 다양한 단계로 나뉘는 에이전트 워크플로에서 비싼 모델 대신 저렴한 판단 스위치를 제공한다는 점이 매력적입니다.

다만 시스템의 핵심 흐름 제어를 확률형 모델에 완전히 넘기는 만큼, 잘못된 분류가 발생했을 때의 예외 처리와 디버깅 부담은 개발자가 여전히 떠안아야 할 몫으로 보입니다.