본문으로 건너뛰기
IFAI

AI 도구

팩토리, 코딩 토큰 비용 25% 줄이는 '팩토리 라우터' 공개

게시 확산 지수 33

팩토리가 작업 난이도에 맞춰 최적의 모델을 자동 호출하는 팩토리 라우터를 발표했다. 간단한 수정은 저비용 모델로, 복잡한 작업은 최상위 모델로 전달해 클로드 오푸스 4.7 대비 96~99%의 성능을 유지하며 비용을 20~25% 줄인다. 현재 CLI와 데스크톱 앱에서 비공개 프리뷰로 제공된다.

팩토리, 코딩 토큰 비용 25% 줄이는 '팩토리 라우터' 공개
이미지: factory.ai

문서의 오탈자를 고치거나 간단한 버그를 잡는 일에 가장 비싼 플래그십 AI 모델을 투입하는 것은 고급 엔지니어에게 허드렛일만 맡기는 것과 다를 바 없습니다.

하지만 성능 저하를 우려한 개발자들은 습관적으로 최고 사양 모델을 기본값으로 두고 씁니다. Factory는 이러한 토큰 낭비를 줄이기 위해 6월 1일 모델 라우팅 도구인 Factory Router를 공개했습니다.

현재 Factory CLI 및 데스크톱 앱에서 비공개 연구 프리뷰 형태로 제공되며, 각 작업 세션마다 가장 적합한 모델을 자동으로 골라 연결해 주는 것이 핵심입니다.

가성비 모델 먼저, 막히면 상위 모델로 전환

Factory는 기업의 AI 비용이 급증하는 이유가 생산성 증가 때문이 아니라, 단순 리팩터링이나 문서 갱신 같은 일상적 업무까지 고가 모델을 거치기 때문이라고 지적합니다.

Factory Router는 프론티어 모델과 고효율 저비용 모델 풀에서 작업을 배분합니다. 만약 선택된 저렴한 모델이 작업을 제대로 처리하지 못하면, 시스템이 자동으로 상위 모델로 세션을 넘겨 결과물의 완성도를 보장합니다.

Claude Opus 4.7 기준 벤치마크에 따르면, 세션당 비용을 20%에서 25%까지 절감하면서도 Terminal-Bench 2에서는 Opus 대비 99%, Legacy-Bench에서는 96%의 통과율을 유지했습니다.

성공한 작업 기준으로 따져봐도 세션 비용은 Opus 대비 각각 80.5%와 78.0% 수준에 그쳤습니다. 비용을 30%까지 무리하게 깎아내는 극단적 라우팅의 경우 Legacy-Bench 통과율이 49%로 폭락했기 때문에, 성능 저하 직전의 균형 지점을 공략한다는 설명입니다.

또한 서비스 제공업체의 용량 한계나 호출 제한이 발생할 경우 여러 모델과 제공업체를 넘나들며 우회해 99.9% 이상의 요청 안정성을 제공하며, 기업 관리자를 위한 맞춤형 규칙 설정 기능도 지원합니다.

왜 중요한가

AI 코딩 에이전트 시장의 경쟁이 모델 자체의 지능 순위 싸움에서 실제 운영 비용을 통제하는 엔지니어링 역량으로 확장되고 있음을 보여줍니다.

엔지니어링 팀 입장에서 자율형 코딩 세션을 대규모로 굴릴 때 가장 큰 걸림돌은 통제 불가능한 토큰 청구서입니다. Factory Router는 엔지니어가 매번 모델을 수동으로 고르는 번거로움을 없애주므로, 이미 Factory 환경에서 자동화 작업을 활발히 돌리고 있는 조직이라면 적극적으로 도입을 검토해 볼 만합니다.

우리는 작업 실패 시 상위 모델로 자동 격상시키는 안전장치를 둔 점이 실무자의 불안을 영리하게 덜어냈다고 봅니다. 다만 저렴한 모델을 먼저 시도했다가 상위 모델로 넘어가는 과정에서 발생하는 지연 시간과 불필요한 토큰 소비는 해결해야 할 과제로 보입니다.

결국 앞으로의 개발 플랫폼 경쟁은 누가 더 똑똑한 모델을 갖고 있느냐보다, 다양한 모델을 얼마나 경제적이고 안정적으로 엮어 업무에 녹여내느냐에 달릴 것으로 보입니다.

출처 (1)

  1. [1]
    factory.ai(새 탭에서 열림)원문factory.ai

매일 AI 콘텐츠 픽