타입세이프 AI, 텍스트 생성 뺀 초고속 의사결정 모델 ‘제브’ 공개

대규모 언어 모델이 인간과의 대화에는 능숙해졌지만, 소프트웨어 엔지니어가 이를 코드 내부의 조건 분기나 검증 로직에 연동하려면 긴 지연 시간과 예측 불가능한 형식 오류라는 큰 장벽을 마주해야 했습니다.

이 문제를 해결하기 위해 텍스트 생성 기능 자체를 과감히 제거한 새로운 모델이 등장했습니다.

타입세이프 AI(TypeSafe AI)는 구조화된 의사결정에 특화된 모델 ‘제브(Jev)’를 발표하고 얼리 액세스를 시작했습니다. 창업자 디오고 알메이다는 OpenAI 시절 챗GPT의 기반이 된 강화학습 기술 개발에 직접 참여했던 연구원입니다.

텍스트 대신 확률만 병렬로 연산

기존 언어 모델은 단어를 순차적으로 생성하기 때문에 응답이 느리고, JSON 같은 특정 형식을 지정해도 문법 오류를 내거나 환각을 일으키기 쉽습니다.

제브는 이 같은 축차 생성을 포기하고 ‘보정된 결정을 위한 강화학습(RLCD)’ 방식을 도입했습니다. 복잡한 추론 대신 직관적 판단을 내리는 ‘시스템 1’ 모델을 표방합니다.

개발자가 예/아니오, 선택지 목록, 점수 척도 등 가능한 출력 형식을 미리 정의하면, 제브는 입력 데이터를 바탕으로 각 선택지의 확률과 신뢰도를 병렬로 즉시 계산해 냅니다. 출력 틀이 사전에 완벽히 고정되어 있어 형식 오류나 데이터형 오류가 수학적으로 불가능하다는 설명입니다.

응답 시간은 70~500밀리초에 불과해 기존 프론티어 모델 대비 40배에서 200배 빠릅니다. 가격은 입력 100만 토큰당 0.042달러(10억 토큰당 42달러)이며, 출력 토큰은 무료로 제공됩니다.

개발자 테스트와 둠(Doom) 플레이 데모

공개 직후 현업 개발자들의 관심이 쏟아졌습니다. 에이전트 인프라 기업 버셀(Vercel)의 엔지니어 프라닛 샤르마는 명령어 안전성 검토에 쓰던 챗GPT Luna 5.6을 제브로 교체한 뒤 속도가 5~18배 빨라졌고 정확도 역시 개선되었다고 밝혔습니다.

비즈니스 이메일 분류를 테스트한 브라이오 AI의 CTO 니킬 무드홀카르는 제미나이보다 10~20배 저렴하면서도 실제 신뢰도 확률을 반환해 워크플로 자동화에 최적이라고 평가했습니다.

타입세이프는 제브의 실시간 처리 성능을 입증하기 위해 고전 게임 ‘둠(Doom)’을 플레이하는 데모도 선보였습니다. 초당 10번의 판단을 내리며 게임을 진행해도 추론 비용은 시간당 약 7달러 수준에 그쳤습니다.

에어렌딜의 CTO 아르민 로나허는 제브가 신뢰도 수치를 제공하므로, 95% 이상일 때만 자동 실행하고 확률이 낮으면 사람이나 무거운 모델로 넘기는 유연한 시스템 설계가 가능해진다고 짚었습니다.

왜 중요한가

제브라는 이름은 자원의 사용 효율이 높아질수록 소비량이 오히려 급증한다는 19세기 ‘제번스 역설’에서 따왔습니다.

개발자에게 제브는 소프트웨어 내부에 부담 없이 집어넣을 수 있는 ‘초고속 스마트 조건문’이 될 수 있습니다. 그동안 응답 지연과 비용 때문에 엄두를 내지 못했던 실시간 데이터 라우팅, 에이전트 프롬프트 탈옥 감시, 입력값 검증 등의 작업을 일반 소프트웨어 로직처럼 매끄럽게 처리할 수 있기 때문입니다.

우리는 대다수 프론티어 연구소가 거대하고 느린 추론 모델에 집중하는 상황에서, 텍스트 생성을 포기하고 경량 즉시 판단에 집중한 타입세이프의 전략이 매우 영리하다고 봅니다. 일상적인 소프트웨어 자동화에는 유려한 문장력보다 빠르고 저렴하며 규격화된 결정이 훨씬 절실합니다.

다만 한계도 분명합니다. 사전 정의된 옵션 안에서만 답을 고를 수 있어 창작이나 자유 서술에는 쓸 수 없으며, 형식 오류가 없다고 해서 내린 판단 자체가 100% 옳다는 뜻은 아닙니다. 공식 벤치마크 역시 대형 모델들의 평균값을 정답 기준으로 삼았다는 점에서, 다양한 실제 프로덕션 환경에서의 검증이 더 필요합니다.