OpenAI 추론 모델 '스트로베리' 포착: 美 안보 관료에 시연, 차세대 '오리온' 개발에 투입

현재의 대형 언어 모델들은 이메일을 작성하거나 문서를 요약하는 일에는 능숙하지만, 처음 보는 복잡한 수학 문제나 고난도 코딩 작업 앞에서는 여전히 엉뚱한 답을 내놓곤 합니다.

OpenAI는 이 한계를 넘어서기 위해 두 가지 핵심 프로젝트를 진행하고 있습니다. 디인포메이션에 따르면 OpenAI는 고도화된 추론 모델인 '스트로베리(Strawberry)'와 차세대 플래그십 모델 '오리온(Orion)'을 개발 중입니다. 특히 스트로베리는 이미 미국 국가안보 담당자들에게도 시연된 것으로 알려졌습니다.

스스로 생각하는 시간과 에이전트의 기반

스트로베리의 가장 큰 특징은 답변을 내놓기 전 충분히 '생각할 시간'을 갖도록 설계되었다는 점입니다. 이를 통해 이전에 접해보지 못한 새로운 수학 문제와 복잡한 프로그래밍 작업을 훨씬 더 정교하게 처리합니다.

내부 시연에서 스트로베리는 뉴욕타임스의 단어 퍼즐인 '커넥션스(Connections)'를 풀어냈습니다. 앞서 로이터는 OpenAI가 수학 숙달도 벤치마크인 MATH에서 90% 이상의 점수를 기록한 모델을 내부 테스트했다고 보도했는데, 이 모델이 바로 스트로베리로 추정됩니다.

사내 문서에 따르면 OpenAI는 스트로베리를 자율 웹 검색과 심층 연구가 가능한 자율 에이전트 시스템의 기반으로 활용할 계획입니다. 사전에 계획을 세우고 조사를 수행하는 방식입니다.

이 접근 방식은 스탠퍼드대 연구진이 제안한 자가 학습 추론(STaR) 방식과 유사한 것으로 알려졌습니다. 또한 회사를 떠나 안전한 슈퍼 AI 스타트업을 차린 일리야 수츠케버 전 수석 과학자가 스트로베리의 아이디어와 토대를 제공했다고 전해집니다.

경량화된 챗봇과 오리온을 위한 합성 데이터

디인포메이션은 OpenAI가 이르면 올가을 스트로베리를 ChatGPT의 일부 형태인 챗봇 버전으로 출시할 수 있다고 전했습니다. 다만 올해 출시 여부는 아직 불확실합니다.

출시되더라도 원본 모델 전체가 아니라, 연산량을 줄이면서도 비슷한 추론 성능을 내도록 압축한 '증류(distilled)' 버전이 될 가능성이 높습니다.

반면 오리온은 GPT-4를 뛰어넘는 진정한 차세대 플래그십입니다. 인터넷의 공개 데이터가 고갈되어 가는 상황에서, 샘 알트만 CEO는 지난 5월 행사에서 다음 모델 학습을 위한 데이터를 충분히 모았으며 합성 데이터 실험을 진행 중이라고 언급한 바 있습니다. 스트로베리가 고품질 추론 데이터를 직접 만들어 오리온에 공급함으로써 오리온의 오류율을 대폭 낮추는 구조입니다.

왜 중요한가

우리는 이번 소식이 AI 모델 경쟁의 문법이 완전히 바뀌었음을 보여준다고 생각합니다. 웹 문서를 무작정 긁어모아 사전 학습에 쏟아붓던 시대는 한계에 부딪혔고, 이제는 추론 시간 연산과 고품질 합성 데이터를 얼마나 잘 다루느냐가 핵심입니다.

일반 개발자와 데이터 분석가에게 스트로베리는 지금의 챗봇보다 훨씬 실질적인 도구가 될 수 있습니다. 올가을 증류 버전이 실제로 ChatGPT에 탑재된다면 복잡한 코드 아키텍처를 짜거나 다단계 논리 검증을 할 때 프롬프트를 수없이 고쳐 쓸 필요가 줄어들므로, 출시되는 즉시 써볼 가치가 충분합니다.

업계 차원에서는 구글 딥마인드를 강하게 압박하는 계기가 됩니다. 딥마인드가 알파프루프 등으로 국제수학올림피아드 은메달 수준을 달성했지만 이를 범용화할 수 있을지는 미지수인 반면, OpenAI는 범용 추론 모델을 직접 제품화하고 에이전트의 두뇌로 삼으려 하고 있습니다.

하지만 스트로베리가 만든 합성 데이터로 오리온을 학습시키는 방식은 영리하면서도 위험해 보입니다. 데이터 기근을 피할 수 있는 지름길인 것은 맞지만, 만약 스트로베리의 추론 과정에 미세한 논리적 결함이나 편향이 섞여 있다면 그 오류가 오리온으로 고스란히 유전될 수 있습니다. 또한 국가안보 관료들에게 먼저 보여줬다는 점은 이 같은 계획형 에이전트 기술이 이제 규제와 안보의 엄격한 감시선 안으로 들어왔음을 뜻합니다.