OpenAI, 미세조정 API 기능 강화 및 맞춤형 모델 프로그램 확대
OpenAI가 미세조정(Fine-Tuning) API 개선 사항을 발표했다. 에포크별 체크포인트 자동 생성, 모델 성능을 나란히 비교할 수 있는 플레이그라운드, 외부 도구 연동 기능이 추가됐다. 또한 전문 연구팀이 지원하는 '보조 미세조정' 서비스도 정식 도입된다.
OpenAI가 미세조정(Fine-Tuning) API 개선 사항을 발표했다. 에포크별 체크포인트 자동 생성, 모델 성능을 나란히 비교할 수 있는 플레이그라운드, 외부 도구 연동 기능이 추가됐다. 또한 전문 연구팀이 지원하는 '보조 미세조정' 서비스도 정식 도입된다.
에어테이블은 여러 테이블의 데이터를 요약하고 태그를 자동 지정하며 번역까지 지원하는 '에어테이블 AI'를 정식 출시했다. 아마존 베드록을 기반으로 오픈AI의 GPT-4와 앤스로픽의 클로드 모델을 선택해 쓸 수 있다. 500크레딧의 무료 체험이 제공되며, 이후 연간 결제 기준 인당 월 6달러의 추가 유료 기능으로 제공된다.
Xiaoliang Luo 등 연구진은 대형언어모델이 뇌과학 실험의 성공 결과를 예측하는 정확도에서 81%를 기록해 인간 전문가(64%)를 능가했다고 발표했다. 70억 파라미터 규모 모델을 관련 문헌으로 미세조정한 것만으로도 성능이 크게 개선되어 연구 주제 선별을 도울 수 있다.
스타트업 아바쿠스 AI가 알리바바의 Qwen-72B를 미세조정한 오픈소스 언어 모델 '스마우그-72B'를 공개했다. 허깅페이스 오픈 LLM 리더보드에서 최초로 평균 80점을 돌파했으며 추론과 수학 평가에서 GPT-3.5 및 미스트랄 미디엄을 앞섰다. 모델 가중치는 허깅페이스에서 바로 내려받을 수 있다.
포트키 관측 데이터에 따르면 GPT-4의 지연 시간이 꾸준히 감소하며 GPT-3.5와의 속도 격차를 좁히고 있습니다. 특히 상위 99퍼센타일 지연 시간은 3개월 만에 절반 이상 줄었고, 중간값 요청 기준 토큰당 처리 시간은 1ms 이하를 기록했습니다. 비용은 여전히 높지만 속도 장벽은 크게 낮아졌습니다.
외신 보도에 따르면 애널리틱스 인디아 매거진은 OpenAI가 ChatGPT를 운영하는 데 매일 약 70만 달러를 지출하고 있으며, 수익화 난항으로 2024년 말 파산에 직면할 수 있다고 분석했습니다. 마이크로소프트의 투자 지원에도 불구하고 이용자 감소와 오픈소스 모델의 추격이 부담을 키우고 있습니다.
스탠퍼드대와 UC 버클리 연구진이 3월과 6월 버전의 GPT-3.5 및 GPT-4를 비교한 결과 단기간에 성능 드리프트가 나타났음을 확인했습니다. 특히 GPT-4는 소수 판별 정확도가 급감하고 코드 서식 오류가 늘어나는 등 지시 수행 능력이 떨어졌습니다. 불투명하게 업데이트되는 상용 LLM의 모니터링 필요성을 보여줍니다.
링크드인이 오픈AI 모델 기반의 AI 작성 지원 기능을 공개했다. 프리미엄 유료 회원의 프로필 소개글 작성에는 GPT-4가, 채용 공고 설명 작성에는 GPT-3.5가 적용된다. 생성된 텍스트에 AI 작성 여부는 별도로 표기되지 않는다.
마이크로소프트가 기업용 '애저 오픈AI 서비스'를 정식 출시했다. 기업 고객은 엔터프라이즈 보안 환경에서 GPT-3.5, 코덱스, 달리 2 등을 쓸 수 있으며 챗GPT 지원도 예고됐다. 단, 개발자는 사전에 활용 계획을 제출해 승인을 받아야 한다.
OpenAI가 대화에 최적화된 새로운 AI 시스템 ChatGPT를 공개했다. GPT-3.5 모델군을 기반으로 지도학습과 강화학습을 거쳐 훈련되었으며, 일상적인 질문에 답하고 실수를 인정하며 부적절한 요청을 거부할 수 있다. 현재 사용자 피드백을 수집해 성능을 개선하기 위해 무료로 개방됐다.