OpenAI, GPT-4o 조용히 업데이트: 출력 토큰 4배 늘었지만 세부 변경점은 비공개

매일 쓰던 ChatGPT가 왠지 모르게 똑똑해졌는데, 정작 개발사가 "정확히 뭐가 달라졌는지는 우리도 설명하기 어렵다"고 말한다면 어떨까요.

OpenAI는 8월 12일 X를 통해 지난주부터 ChatGPT에 새로운 버전의 GPT-4o 모델을 조용히 적용해 운영 중이었다고 밝혔습니다. 새로운 차세대 프론티어 모델은 아니며, 기존 GPT-4o를 개선한 마이너 업데이트라는 설명도 덧붙였습니다.

OpenAI의 릴리스 노트에 따르면 실험 결과와 사용자 피드백을 통해 이용자들이 더 선호하는 방향으로 반응을 다듬었다고 합니다. 다만 모델의 행동 변화를 정밀하게 벤치마크하고 이를 구체적으로 전달하는 방법 자체가 여전히 연구 중인 영역이라 변경점을 일일이 나열하진 못했다고 털어놓았습니다.

무성한 추측과 4배로 늘어난 출력 한도

구체적인 설명이 빠지자 온라인에서는 온갖 가설이 쏟아졌습니다.

소셜 미디어에서는 다단계 추론 방식이 새로 탑재된 것 아니냐는 주장이 나왔으나, OpenAI 대변인은 VentureBeat를 통해 새로운 추론 구조가 적용된 것이 아니며 프롬프트 구성 때문에 나타난 착시일 뿐이라고 선을 그었습니다.

반면 출력물의 뉘앙스와 분위기가 좋아져 오랜만에 Claude 3.5 Sonnet보다 만족스러웠다는 긍정적인 평가도 이어졌습니다.

이후 OpenAI 모델 페이지에는 현재 ChatGPT 버전을 지속해서 반영하는 동적 모델인 'ChatGPT-4o-latest'의 세부 스펙이 올라왔습니다. 지식 기준 시점은 2023년 10월, 입력 한도는 128,000 토큰으로 기존과 같지만, 1회 최대 출력 한도가 기존의 4배 수준인 16,384 토큰으로 늘어나 최신 GPT-4o-mini와 어깨를 나란히 했습니다.

왜 중요한가

긴 코드를 작성하거나 방대한 보고서를 한 번에 뽑아내야 하는 사용자에게 최대 출력 16,384 토큰 확장은 체감이 아주 큰 변화입니다. 답변이 중간에 잘려 "계속해줘"를 반복해서 누를 필요가 사실상 사라졌기 때문입니다.

우리가 보기에 이번 업데이트에서 가장 눈여겨볼 대목은 OpenAI의 솔직한 고백입니다. 기존 벤치마크 점수만으로는 설명하기 힘든 미묘한 답변 톤과 자연스러움 같은 정성적 요소가 모델 경쟁의 핵심으로 떠올랐음을 보여줍니다. Claude 3.5 Sonnet이 특유의 세련된 문맥 파악으로 인기를 끌자, OpenAI 역시 정량적 수치 대신 체감 품질 개선에 집중한 모양새입니다.

다만 이런 잠수함 패치는 일반 챗봇 이용자에게는 반가운 일이지만, 규격화된 출력을 기대하는 기업 개발자에게는 불확실성을 키우는 요인이 될 수 있습니다.