OpenAI 공개 모델, 복잡한 질문엔 클라우드 모델 호출 기능 검토

약 5년 동안 오픈소스 가중치 공개를 꺼려왔던 OpenAI가 파격적인 복귀 카드를 준비 중인 것으로 알려졌습니다.

테크크런치는 소식통을 인용해 OpenAI가 올 초여름 출시를 목표로 API 제약 없이 누구나 무료로 내려받을 수 있는 오픈 추론 모델을 개발하고 있다고 보도했습니다.

주목할 점은 이 로컬 모델이 복잡한 작업에 부딪혔을 때 스스로 클라우드 모델을 호출할 수 있는 연계 기능을 검토하고 있다는 사실입니다.

로컬 모델이 버거우면 클라우드로 '패스'

보도에 따르면 OpenAI 경영진은 로컬에서 구동되는 오픈 모델이 고난도 질문을 받으면 OpenAI의 클라우드 대형 모델에 연결해 도움을 받는 방안을 논의 중입니다.

최근 오픈소스 커뮤니티 개발자들과의 모임에서 샘 알트먼 CEO는 이 기능을 '핸드오프(Handoff, 넘겨주기)'라고 설명했습니다.

이 아이디어는 개발자 포럼에서 외부 개발자가 처음 제안한 것으로, 회사 내부에서 큰 호응을 얻으며 채택 가능성이 높아졌습니다. 기능이 탑재되면 가벼운 오픈 모델이 작업을 수행하다가, 고성능 연산이 필요한 순간 OpenAI API를 호출해 클라우드 거대 모델의 지원을 받게 됩니다.

웹 검색이나 이미지 생성 같은 외부 툴까지 호출할 수 있을지, API 요금과 호출 제한이 어떻게 책정될지는 아직 초기 단계라 유동적입니다.

소식통은 OpenAI가 기존 모델을 개조하는 대신 밑바닥부터 새로 학습시키고 있으며, 특정 벤치마크에서 딥시크의 R1을 능가하되 자사 플래그십 모델인 o3보다는 아래 수준의 성능을 목표로 삼고 있다고 전했습니다.

왜 중요한가

이 방식은 기기 내 온디바이스 모델과 프라이빗 클라우드를 유기적으로 연결한 애플 인텔리전스의 구조를 떠올리게 합니다.

개발자 입장에서는 복잡한 라우팅 코드를 직접 짤 필요 없이, 일상 작업은 로컬 장비에서 지연 시간과 비용 없이 처리하고 복잡한 추론만 선택적으로 과금하며 쓸 수 있는 실용적인 선택지가 열립니다.

우리는 OpenAI의 이번 구상이 영리한 절충안이라고 봅니다.

메타의 라마나 딥시크의 공세 속에서 무작정 폐쇄형 API만 고수하면 개발자 생태계를 빼앗길 수 있고, 그렇다고 최고급 모델을 통째로 무료 공개하기엔 컴퓨팅 비용 부담이 너무 큽니다.

오픈 모델 안에 자연스러운 클라우드 호출 통로를 심어둠으로써, 오픈소스 생태계에 발을 들이는 동시에 해당 사용자들을 유료 API 생태계로 끌어들이는 영리한 파이프라인을 구축하려는 셈입니다.

다만 완전한 오프라인 독립성과 데이터 프라이버시를 최우선으로 여기는 순수 오픈소스 사용자들에게는, 자칫 클라우드 유료 서비스 결제를 유도하기 위한 '미끼 상품'으로 비칠 수 있다는 점이 넘어야 할 숙제입니다.