OpenAI, 미세조정 API 기능 강화 및 맞춤형 모델 프로그램 확대

프롬프트 엔지니어링만으로는 한계에 부딪히고, RAG를 도입해도 엉뚱한 문서가 검색되기 일쑤입니다. 모델에 도메인 지식을 본격적으로 학습시키려 해도 미세조정의 진입 장벽은 여전히 높습니다.

OpenAI가 4월 4일 이를 해결하기 위한 주요 업데이트를 내놓았습니다. 일반 개발자를 위한 셀프서비스 파인튜닝 API에 세부 제어 기능을 대거 추가하는 한편, 사내 연구팀이 기업과 협력해 전용 대규모 언어모델을 만들어주는 커스텀 모델 프로그램을 공식 확장했습니다.

세밀해진 API 제어와 모델 비교 환경

OpenAI는 2023년 8월 GPT-3.5용 파인튜닝 API를 출시한 이래 수천 개 조직이 수십만 개의 모델을 훈련했다고 밝혔습니다. 하지만 학습 도중 과적합이 발생하거나 모델 간 결과물을 일일이 검증하는 과정은 번거로운 작업이었습니다.

이번 개편으로 각 학습 에포크마다 전체 모델 체크포인트가 자동으로 저장됩니다. 과적합이 발생하더라도 처음부터 다시 훈련할 필요 없이 이전 시점으로 즉시 되돌릴 수 있게 된 셈입니다.

대시보드 기능도 개선되어 코드 없이도 웹 화면에서 하이퍼파라미터를 직접 구성하고 이전 작업을 재실행할 수 있습니다. 동일한 프롬프트를 넣고 여러 모델의 답변을 나란히 비교하는 플레이그라운드가 도입되었으며, 검증 데이터셋 전체를 바탕으로 손실과 정확도를 계산하는 기능과 Weights and Biases 연동도 지원합니다.

글로벌 채용 플랫폼 인디드는 GPT-3.5 터보를 미세조정해 구직자 맞춤 추천 메시지를 고도화했습니다. 프롬프트 토큰 사용량을 80퍼센트 줄이면서 비용과 지연 시간을 대폭 개선했고, 월간 발송량을 100만 건 미만에서 약 2000만 건으로 확장했습니다.

통신부터 법률까지, 엔터프라이즈 맞춤형 모델 구축

표준 API 이상의 성능이 필요한 대기업을 겨냥해 OpenAI는 어시스티드 파인튜닝과 완전 맞춤형 훈련이라는 두 가지 선택지를 제시했습니다.

어시스티드 파인튜닝은 OpenAI 기술진과 협력해 대규모 매개변수 효율적 미세조정(PEFT) 기술과 맞춤형 평가 시스템을 적용하는 방식입니다. SK텔레콤은 통신 도메인 고객 서비스 역량을 높이기 위해 GPT-4를 미세조정했으며, 한국어 통신 상담 업무에서 의도 인식 정확도를 33퍼센트 높이고 고객 만족도를 3.6점에서 4.5점으로 끌어올렸습니다.

완전 맞춤형 훈련은 방대한 독점 데이터를 보유한 조직을 위해 중간 훈련과 사후 훈련 등 모델 학습 전 과정을 수정하는 방식입니다.

법률 AI 기업 하비는 판례와 법률 문서 100억 토큰 상당의 데이터를 투입해 전용 모델을 구축했습니다. OpenAI 연구진이 훈련 과정을 전면 개조하고 변호사들의 피드백을 반영한 결과 사실 기반 답변율이 83퍼센트 증가했으며, 변호사 평가에서 기본 GPT-4보다 커스텀 모델의 답변을 선호한 비율이 97퍼센트에 달했습니다.

왜 중요한가

일반 개발자와 스타트업 관점에서 이번 API 개선은 매우 실용적입니다. 에포크 단위 체크포인트 저장과 대시보드 내 비교 기능 덕분에 불필요한 컴퓨팅 비용 낭비와 자체 평가 도구 구축 부담이 크게 줄었습니다. 긴 프롬프트로 인해 토큰 비용이 부담스러웠던 서비스라면 지금 즉시 미세조정을 검토해 볼 가치가 있습니다.

업계 전반으로 보면 OpenAI의 영리한 고객 분할 전략이 돋보입니다. 롱테일 개발자는 자동화된 API로 묶어두고, 핵심 데이터와 자본력을 갖춘 대기업은 컨설팅 방식의 커스텀 프로그램으로 확실하게 포섭하는 구조입니다. 이를 통해 고부가가치 기업 시장에서 오픈소스 진영의 추격을 효과적으로 차단할 수 있습니다.

다만 독점 플랫폼에 대한 종속 위험은 경계해야 할 지점입니다. 기업의 핵심 자산인 수십억에서 수백억 토큰의 기밀 데이터를 외부 폐쇄형 플랫폼에 맡기고 훈련 구조까지 종속시키면 추후 다른 대안으로 이전하기가 불가능에 가까워집니다. 독점 데이터를 쥔 기업들 사이에서 자체 오픈소스 모델 구축과 OpenAI 맞춤 제작 사이의 셈법이 더욱 복잡해질 것으로 보입니다.