스탠퍼드·워싱턴대, 50달러 미만으로 오픈소스 추론 모델 's1' 개발…OpenAI o1 추격

s1은 스탠퍼드 대학교와 워싱턴 대학교 연구진이 개발한 오픈소스 추론 전문 모델로, 대규모 자본 없이 OpenAI o1이나 DeepSeek-R1 수준의 심층 사고 능력을 구현하는 것을 목표로 합니다.

수학과 코딩 벤치마크에서 s1은 선도적인 최신 추론 모델들과 유사한 성능을 기록했습니다. 가장 놀라운 점은 학습 비용입니다. 50달러 미만의 클라우드 컴퓨팅 비용으로 완성되었으며, 전체 코드와 학습 데이터, 모델 가중치가 GitHub에 완전히 공개되었습니다.

어떻게 만들었나

연구진은 DeepSeek이 R1에서 사용한 것과 같은 값비싼 대규모 강화학습 대신, 소규모 지도 미세조정(SFT)과 모델 증류 방식을 선택했습니다.

베이스 모델로는 알리바바가 오픈소스로 공개한 소형 Qwen 모델을 활용했습니다. 교사 모델로는 구글이 무료 테스트로 제공하는 Gemini 2.0 Flash Thinking Experimental을 사용했습니다. 수만 건의 데이터를 긁어모으는 대신, 정밀하게 선별된 1,000개의 질문과 이에 대한 제미나이의 단계별 사고 과정을 추출해 데이터셋을 구성했습니다.

학습에는 16대의 엔비디아 H100 GPU가 투입되었으며, 30분도 채 걸리지 않았습니다. 연구에 참여한 스탠퍼드대 니클라스 뮌히호프 연구원은 현재 시세로 동일한 연산 자원을 대여할 경우 약 20달러면 충분하다고 밝혔습니다.

추론 시간에 모델이 스스로 검토하도록 유도하는 기법도 인상적입니다. 모델의 사고 과정에 단순히 'wait'이라는 단어를 삽입해 잠시 멈추고 자체 검증을 거치게 만들었으며, 이를 통해 답변의 정확도를 소폭 끌어올렸습니다.

실행 방법과 한계

직접 모델을 구동하거나 실험해보고 싶다면 GitHub에서 코드와 1,000개의 데이터셋, 가중치를 즉시 내려받을 수 있습니다. 경량화된 Qwen 모델 기반이기 때문에 일반 개발자도 인프라 부담 없이 실행해볼 수 있습니다.

다만 상용화 관점에서는 주의가 필요합니다. 구글의 서비스 약관은 자사 모델 출력을 역공학해 경쟁 서비스를 만드는 행위를 금지하고 있습니다. 또한 증류 기법의 특성상 기존 모델의 사고 능력을 모방할 뿐, 스승 모델을 뛰어넘는 완전히 새로운 지능을 창출하지는 못합니다.

왜 중요한가

인디 개발자와 소규모 연구진에게 s1은 수백만 달러의 자본 없이도 최상급 추론 모델을 손에 쥘 수 있다는 사실을 보여준 훌륭한 레퍼런스입니다. 잘 정제된 1,000개의 사고 과정 데이터만 있다면 커피 몇 잔 가격으로도 충분히 강력한 도구를 만들 수 있습니다.

수천억 달러를 AI 인프라에 쏟아붓고 있는 빅테크 기업들에는 상당한 경종을 울립니다. 막대한 돈을 들여 만든 모델의 핵심 능력이 단돈 수십 달러에 복제될 수 있다는 점이 확인된 만큼, 향후 빅테크 진영의 무료 API 제공 정책과 데이터 증류 방지 조치는 훨씬 더 까다로워질 것으로 보입니다.