오픈AI, 'GPT-4o' 파인튜닝 기능 정식 지원

프롬프트 입력창마다 수만 자에 달하는 예시와 배경 정보를 억지로 욱여넣으며 토큰 비용을 낭비하던 개발자들에게 반가운 소식이 전해졌습니다.

OpenAI가 플래그십 모델인 GPT-4o의 파인튜닝 기능을 정식 출시했습니다. 유료 티어를 이용하는 모든 개발자는 대시보드에서 모델을 직접 미세조정할 수 있습니다.

출시를 기념해 9월 23일까지 각 조직마다 매일 100만 트레이닝 토큰을 무료로 지원합니다. 소형 모델인 GPT-4o mini를 튜닝할 경우에는 매일 200만 토큰이 무료로 제공됩니다.

수십 개의 예시로 맞춤 학습, 명확한 비용 구조

OpenAI에 따르면 개발자는 데이터 세트에 수십 개의 고품질 예시만 넣어도 특정 업무에 특화된 답변 양식과 어조를 안정적으로 구현할 수 있습니다.

비용 체계도 구체적으로 공개되었습니다. GPT-4o의 학습 비용은 100만 토큰당 25달러입니다. 미세조정된 모델의 추론 비용은 입력 100만 토큰당 3.75달러, 출력 100만 토큰당 15달러로 책정되었습니다.

기업 데이터 보안 기준도 명시했습니다. 학습에 쓰인 데이터와 입출력 기록은 모두 고객이 소유하며, 다른 기본 모델을 훈련하는 데 공유되거나 활용되지 않습니다. 모델 오용을 막기 위한 자동 안전 평가 시스템도 상시 작동합니다.

벤치마크 신기록으로 입증된 성능

사전 테스트에 참여한 파트너사들은 이미 주요 벤치마크에서 놀라운 성과를 보고했습니다.

AI 소프트웨어 엔지니어링 도구 Genie를 개발한 Cosine은 실제 엔지니어들의 작업 로그로 GPT-4o를 파인튜닝했습니다. 그 결과 SWE-bench Verified에서 43.8%를 기록했고, SWE-bench Full에서는 종전 19.27%를 30.08%로 끌어올리며 역대 최대 상승 폭을 기록했습니다.

엔터프라이즈 솔루션 기업 Distyl 역시 텍스트를 SQL로 변환하는 BIRD-SQL 벤치마크에서 실행 정확도 71.83%를 기록하며 리더보드 1위에 올랐습니다.

왜 중요한가

우리는 이번 조치가 에이전트 개발 비용 구조를 실질적으로 바꿀 것이라고 봅니다. 복잡한 출력 규격을 유지하기 위해 매 호출마다 길게 넣어야 했던 시스템 프롬프트를 가중치에 직접 새겨 넣을 수 있어, 장기적인 추론 비용과 지연 시간을 크게 줄일 수 있습니다.

사내 표준 코드 포맷이나 엄격한 데이터 추출 파이프라인을 구축하려는 개발자라면 일일 무료 크레딧이 제공되는 지금 즉시 검증해 볼 가치가 충분합니다.

업계 경쟁 측면에서는 Claude 3.5 Sonnet 같은 경쟁 모델에 쏠리던 개발자 수요를 방어하는 강력한 카드가 될 것으로 보입니다. 일반 범용 모델 간의 단순 비교를 넘어 기업 자체 데이터를 결합한 커스텀 모델 생태계로 주도권을 끌어오려는 전략입니다.

다만 파인튜닝을 만병통치약으로 여겨서는 안 됩니다. 형식과 어조를 교정하는 데는 탁월하지만, 모델이 모르는 새로운 지식을 주입하는 용도로는 한계가 분명합니다. 정제되지 않은 데이터를 무턱대고 학습시키면 오히려 모델 고유의 추론 능력을 떨어뜨릴 위험이 있습니다.