OpenAI, 초저가 경량 모델 'GPT-4o mini' 출시

모두가 GPT-5를 기다리던 시점에 OpenAI가 꺼내든 카드는 뜻밖에도 초소형 모델이었습니다.

OpenAI는 비용 효율성을 극대화한 소형 AI 모델인 GPT-4o mini를 전격 공개했습니다. 이 모델은 ChatGPT 무료, Plus, Team 사용자에게 즉시 적용되어 기존의 GPT-3.5 Turbo 자리를 완전히 대체하며, Enterprise 사용자는 다음 주부터 사용할 수 있습니다.

60% 이상 저렴해진 가격, 성능은 전작 압도

가장 눈에 띄는 대목은 파격적인 가격입니다.

GPT-4o mini의 API 가격은 입력 토큰 100만 개당 0.15달러, 출력 토큰 100만 개당 0.60달러로 책정되었습니다. 이는 기존 GPT-3.5 Turbo 대비 60% 이상 저렴하며, 2022년 출시된 text-davinci-003과 비교하면 무려 99%나 낮아진 수치입니다.

가격은 대폭 낮췄지만 체급을 뛰어넘는 벤치마크 점수를 보여줍니다. 텍스트 지능과 추론 능력을 평가하는 MMLU에서 82.0%를 기록해 Google의 Gemini Flash(77.9%)와 Anthropic의 Claude Haiku(73.8%)를 모두 앞질렀습니다. LMSYS 챗봇 리더보드에서도 기존 GPT-4보다 높은 선호도를 기록했습니다.

코딩 성능을 측정하는 HumanEval에서는 87.2%, 수학 추론인 MGSM에서는 87.0%를 달성했습니다. 128K 토큰의 컨텍스트 창을 지원하며 한 번에 최대 16K 토큰까지 출력할 수 있습니다. 지식 컷오프는 2023년 10월이며, 현재 텍스트와 이미지 입력을 지원합니다.

프롬프트 주입 공격 방어 강화

소형 모델을 기업용 서비스에 대규모로 투입할 때 가장 큰 걸림돌은 보안 취약점이었습니다.

OpenAI는 GPT-4o mini API에 최초로 '지시 계층(instruction hierarchy)' 기술을 적용했다고 밝혔습니다. 시스템 지시문과 외부 입력의 우선순위를 명확히 분리함으로써 탈옥이나 프롬프트 인젝션, 시스템 프롬프트 탈취 시도에 대한 방어력을 크게 끌어올린 것입니다.

사전 파트너십을 맺은 램프(Ramp)는 영수증 구조화 데이터 추출에서, 슈퍼휴먼(Superhuman)은 메일 스레드 기반 답장 생성에서 GPT-3.5 Turbo보다 월등한 결과를 얻었다고 밝혔습니다.

왜 중요한가

우리는 이번 발표가 생성형 AI 시장의 경쟁 초점을 무조건적인 거대화에서 '실용적인 비용 구조'로 완전히 옮겨놓았다고 봅니다.

개발자와 기업 입장에서는 AI 에이전트 구축의 문턱이 극적으로 낮아졌습니다. 모델 호출을 연쇄적으로 연결하거나 방대한 문서 이력을 실시간 고객 응대에 밀어 넣어도 비용 부담이 거의 없습니다. 기존에 GPT-3.5 Turbo를 쓰던 서비스라면 즉시 갈아타지 않을 이유가 없습니다.

업계 관점에서는 가성비 시장을 빠르게 잠식하던 구글 제미나이 플래시와 앤트로픽 클로드 하이쿠에 던진 강력한 견제구입니다. 주도권을 뺏기지 않겠다는 선전포고에 가깝습니다.

다만 고난도 다단계 추론이나 고도의 창작 작업까지 상위 플래그십 모델을 온전히 대체하기는 어려워 보입니다. 대규모 단순 연산과 실시간 데이터 파싱은 mini에 맡기고, 난도 높은 의사결정만 대형 모델로 넘기는 유연한 구조 설계가 필수가 될 것입니다.