오픈AI, 'GPT-3.5 터보' 미세조정 기능 출시

많은 개발자들은 지난 몇 달 동안 한 가지 딜레마에 빠져 있었습니다. 신뢰할 수 있는 출력을 얻기 위해 비싸고 느린 GPT-4를 쓰거나, 비용을 아끼기 위해 GPT-3.5 Turbo를 쓰면서 포맷 오류와 씨름하는 선택지였습니다.

OpenAI가 이에 대한 해결책을 내놓았습니다. 8월 22일, OpenAI는 GPT-3.5 Turbo 모델의 파인튜닝 기능을 정식 출시했습니다. GPT-4 파인튜닝 역시 올가을 중으로 지원될 예정입니다.

가장 눈에 띄는 대목은 성능 비교입니다. OpenAI의 초기 테스트 결과에 따르면, 특정 세부 작업에서는 파인튜닝된 GPT-3.5 Turbo가 기본 GPT-4 수준과 맞먹거나 오히려 능가하는 성능을 보였습니다.

프롬프트 길이 최대 90% 단축

이번 파인튜닝의 핵심은 새로운 지식 학습보다는 모델의 제어력 강화에 있습니다.

OpenAI는 지시 사항 준수 향상, 정형화된 JSON 출력 같은 포맷 일관성 확보, 브랜드에 맞춘 어조 일관성 유지를 주요 사례로 꼽았습니다. 기존에는 프롬프트에 수많은 예시와 규칙을 빼곡하게 넣어야 했지만, 이제는 이를 모델 가중치에 직접 반영할 수 있습니다.

실제로 초기 테스터들은 반복적인 지시문을 모델에 직접 녹여내면서 프롬프트 크기를 최대 90%까지 줄였습니다. 프롬프트가 짧아지면 API 응답 속도가 빨라질 뿐 아니라 호출당 토큰 비용도 크게 절감됩니다.

컨텍스트 길이는 이전 파인튜닝 모델의 두 배인 4k 토큰을 지원합니다. 올가을에는 16k 컨텍스트 지원 및 함수 호출 기능 지원도 추가될 예정입니다.

비용도 합리적입니다. 훈련 비용은 1000토큰당 0.008달러이며, 사용 시 입력 1000토큰당 0.012달러, 출력 1000토큰당 0.016달러가 청구됩니다. 10만 토큰 크기의 데이터셋으로 3회 학습을 돌릴 경우 약 2.40달러면 충분합니다.

기업들의 보안 우려에 대해 OpenAI는 파인튜닝 API를 오가는 모든 데이터는 고객 소유이며 다른 모델 학습에 사용되지 않는다고 강조했습니다. 데이터 검증에는 GPT-4 기반 모더레이션 시스템이 적용됩니다. 아울러 2024년 1월 4일 종료 예정인 기존 GPT-3 기본 모델을 대체할 babbage-002와 davinci-002도 함께 공개되었습니다.

왜 중요한가

우리는 이번 발표가 오픈소스 진영과의 경쟁 구도에서 매우 영리한 한 수라고 봅니다. Llama 2 출시 이후 많은 기업들이 맞춤형 모델 구축을 위해 오픈소스로 눈을 돌렸지만, 자체 파인튜닝 및 호스팅에는 상당한 엔지니어링 비용이 들어갑니다. OpenAI는 단돈 몇 달러로 이 장벽을 무너뜨렸습니다.

GPT-4의 높은 API 요금이나 응답 지연으로 비즈니스 확장에 제동이 걸렸던 팀이라면, 지금 당장 도입을 검토할 가치가 있습니다. 특정 양식의 코드를 생성하거나 브랜드 목소리를 일관되게 내야 하는 작업에서는 극적인 비용 절감과 속도 개선을 누릴 수 있습니다.

다만 파인튜닝이 모든 문제를 해결해 주지는 않습니다. 모델의 출력 태도와 형식을 다듬는 데는 뛰어나지만 근본적인 추론 능력을 비약적으로 끌어올리는 것은 아닙니다. 단순 프롬프트 엔지니어링이나 검색 증강 생성으로 풀 수 있는 문제인지 면밀히 따져보고 진입하는 것이 합리적입니다.