오픈AI, 오픈 가중치 모델 공개 연기…"추가 안전성 검증 필요"

클라우드 API 뒤에 숨겨진 모델은 문제가 생기면 언제든 플러그를 뽑거나 가드레일을 덧댈 수 있습니다. 하지만 가중치를 통째로 다운로드할 수 있게 푸는 순간, 되돌릴 방법은 완전히 사라집니다.

OpenAI의 샘 알트먼 CEO는 X를 통해 다음 주로 예정되어 있던 자체 오픈 가중치 모델의 출시를 무기한 연기한다고 밝혔습니다. 추가적인 안전성 테스트를 거치고 고위험 영역을 면밀히 검토할 시간이 필요하며, 출시까지 얼마나 걸릴지는 아직 알 수 없다는 설명입니다.

알트먼은 커뮤니티가 이 모델로 놀라운 성과를 낼 것이라 믿지만, 가중치는 한 번 배포되면 다시 회수할 수 없다고 강조했습니다. 오픈 가중치 출시는 OpenAI로서도 새로운 도전인 만큼 완벽을 기하겠다는 입장입니다.

완성도 기준과 격화되는 오픈 진영 경쟁

오픈 모델 팀을 이끄는 에이단 클라크 OpenAI 연구 부사장 역시 X에 글을 올려 입장을 보탰습니다. 그는 능력 면에서 모델 자체는 대단히 경이롭지만, 오픈소스 모델에 대한 내부 기준치가 매우 높기 때문에 모든 축에서 떳떳한 모델을 내놓기 위해 시간이 더 필요하다고 덧붙였습니다.

이 모델의 출시 연기는 이번이 처음이 아닙니다. 초여름에도 이미 한 차례 한 달가량 일정이 밀린 바 있으며, 당시 알트먼은 예상치 못한 아주 놀라운 성과를 거두었다고 언급했을 뿐 구체적인 내용은 밝히지 않았습니다.

테크크런치 보도에 따르면, 이 모델은 OpenAI의 추론 특화 라인업인 o 시리즈와 유사한 추론 성능을 목표로 하며 다른 오픈 모델들 사이에서 최고 수준을 겨냥하고 있습니다. 아울러 복잡한 질의 처리를 위해 로컬 모델이 OpenAI의 클라우드 호스팅 모델과 연동되도록 하는 방안도 논의되었으나, 최종 버전에 탑재될지는 불투명합니다.

외부 경쟁 압박도 거셉니다. 알트먼의 발표가 나온 날 오전, 중국 AI 스타트업 문샷 AI는 1조 개 매개변수 규모의 오픈 모델 키미 K2를 전격 공개했습니다. 키미 K2는 여러 에이전트 코딩 벤치마크에서 OpenAI의 GPT-4.1 성능을 앞지르며 오픈 진영의 기술 격차를 빠르게 좁히고 있습니다.

왜 중요한가

우리는 이번 연기가 폐쇄형 API 생태계의 맹주였던 OpenAI가 오픈소스 생태계로 진입할 때 겪을 수밖에 없는 근본적 딜레마를 보여준다고 봅니다.

클라우드 기반 서비스는 중앙에서 가드레일을 실시간으로 통제할 수 있지만, 다운로드 가능한 가중치는 배포 직후 커뮤니티에 의해 정렬과 안전장치가 해제될 위험에 노출됩니다. 안전성과 규제 리스크에 민감한 OpenAI로서는 추론 능력이 뛰어난 모델을 완전히 통제 밖으로 내보내는 일에 주저할 수밖에 없습니다.

로컬 환경에서 강력한 추론 모델을 돌려보고 싶었던 개발자들에게 이번 발표는 아쉬운 소식이지만, 키미 K2처럼 실질적인 대안이 빠르게 쏟아져 나오고 있어 무작정 OpenAI만 바라보며 기다릴 필요는 없어 보입니다.

관건은 향후 공개될 실제 제품의 형태입니다. 안전성을 이유로 모델의 핵심 능력을 지나치게 거세하거나, 클라우드 연결을 강제하는 반쪽짜리 오픈소스로 나온다면 까다로운 오픈소스 개발자 커뮤니티의 호응을 얻기는 어려울 것입니다.