Thinking Machines, 상호작용 모델 공개: 턴제 대화 벗어나 200ms 단위 실시간 협업

최근 AI 음성 기능을 써본 사람이라면 말을 멈추고 잠깐 생각하는 사이에 AI가 끼어들어 말을 끊거나, 장황하게 이어지는 AI의 답변을 멈추기 위해 화면 속 정지 버튼을 급하게 누른 경험이 한 번쯤 있을 것입니다.

현재 출시된 대부분의 프론티어 모델은 단일 스레드로 작동합니다. 이용자가 입력을 끝낼 때까지 모델은 아무것도 모른 채 기다리고, 모델이 답변을 생성하는 동안에는 외부 인식이 멈춥니다. 사실상 무전기나 이메일을 주고받는 방식에 가깝습니다. 전 오픈AI 최고기술책임자인 미라 무라티가 작년에 설립한 씽킹 머신스 랩은 이 같은 협업 병목을 허물겠다고 나섰습니다.

씽킹 머신스는 외부 도구에 의존하지 않고 모델 자체가 실시간 상호작용을 처리하는 인터랙션 모델의 연구 프리뷰를 발표했습니다.

외부 장치를 걷어내고 200밀리초 단위로 주고받는 멀티스트림

기존 실시간 음성 서비스들은 대부분 턴 기반 모델 위에 음성 활동 감지 같은 외부 소프트웨어를 덧붙여 실시간처럼 보이게 포장해 왔습니다.

씽킹 머신스는 상호작용 능력 자체를 모델 내부로 끌고 들어왔습니다. 200밀리초 단위의 미세한 시간 창으로 입출력을 잘게 쪼개어 교차 처리하는 멀티스트림 설계를 적용했습니다. 한 턴이 완전히 끝나기를 기다리는 대신, 오디오와 비디오, 텍스트 스트림을 0.2초 단위로 흘려보내며 듣기와 말하기를 동시에 해냅니다.

그 덕분에 이용자가 말을 멈추고 생각하는 중인지, 실수를 바로잡는 중인지, 답변을 넘기는 중인지를 모델이 직접 맥락으로 알아챕니다. 이용자가 말하는 도중에 시각 단서를 보고 먼저 끼어들거나, 화면 속 코드를 보며 오류를 짚어주고, 이용자의 말을 들으며 동시에 실시간 통역을 뱉는 것도 가능해집니다.

즉각적인 반응성과 깊은 추론 능력을 동시에 잡기 위해 모델도 둘로 나눴습니다. 전면에는 시간 감각을 지닌 실시간 인터랙션 모델이 상주하며 대화를 이어나가고, 뒤편에서는 비동기 백그라운드 모델이 심층 추론과 도구 호출, 실시간 웹 검색과 화면 생성을 맡습니다. 외신에 따르면 TML-인터랙션-스몰 모델의 반응 지연 시간은 0.40초 수준으로, 인간의 일상 대화 속도에 맞먹으며 오픈AI나 구글의 기존 모델보다 눈에 띄게 빠릅니다.

왜 중요한가

우리는 씽킹 머신스가 현재 AI 업계가 간과하고 있던 가장 불편한 지점을 정면으로 겨냥했다고 봅니다. 빅테크들은 인간이 프롬프트만 던져두고 떠나는 완전 자율형 에이전트에만 몰두하고 있지만, 현실의 복잡한 업무는 처음부터 완벽한 지시를 내리기 어렵기 때문에 끊임없이 피드백을 주고받는 협업 환경이 필수적입니다.

외부 제어 프로그램에 기대지 않고 인터랙션을 모델의 기본 역량으로 내재화한 선택은 매우 영리합니다. 인공지능 분야의 쓰라린 교훈처럼 손으로 짠 외부 규칙은 결국 모델 자체의 확장성에 밀려나기 마련인데, 상호작용을 모델의 기본 학습 영역으로 두면 모델 규모를 키울 때 지능뿐만 아니라 소통 능력도 함께 올라가기 때문입니다.

다만 당장 일반 이용자가 체감해 볼 수 있는 단계는 아닙니다. 이번 발표는 연구 프리뷰이며, 씽킹 머신스는 향후 몇 달 안에 제한된 프리뷰를 거쳐 올해 말에야 더 넓은 범위로 배포할 예정이라고 밝혔습니다. 0.40초라는 응답 속도가 인상적이더라도 실제 다양한 소음과 긴 작업 흐름 속에서 전면 대화 모델과 후면 추론 모델이 얼마나 매끄럽게 연결될지는 실제 서비스 검증을 지켜볼 필요가 있습니다.