인셉션, 초당 1,000토큰 뽑아내는 확산 언어 모델 '머큐리 3' 공개

AI 스타트업 인셉션(Inception)이 확산(Diffusion) 방식의 대규모 언어 모델인 ‘머큐리 3(Mercury 3)’를 정식 출시했습니다. 엔비디아 GPU 환경에서 초당 1,068개 토큰을 쏟아내며, OpenAI의 GPT-6 루나(Luna)나 앤트로픽의 클로드 하이쿠 5.5보다 4배에서 8배 빠른 속도를 보인다고 밝혔습니다.

한 단어씩 순차적으로 이어 쓰는 기존 자기회귀 방식과 달리, 확산 모델은 여러 단어를 동시에 생성한 뒤 정제하는 방식으로 작동해 출력 속도를 극단적으로 끌어올립니다.

모델 크기 40배 키우고도 속도 유지

머큐리 3는 1세대 모델 대비 총 매개변수를 40배 이상 늘렸습니다. 인셉션 측은 벤치마크 기준 지능 수준이 3배 높아졌음에도 동일한 수준의 속도를 유지한다고 설명했습니다. 지원하는 컨텍스트 길이 역시 이전 2.5 버전의 26만 토큰에서 100만 토큰으로 늘어났습니다.

공동 창업자인 스테파노 에르몬(Stefano Ermon)은 확산 모델의 확장을 가로막는 것은 연산 자원과 데이터일 뿐 근본적인 알고리즘 장벽이 아니라며, 이미 차세대 모델을 학습 중이라고 덧붙였습니다.

벤치마크 결과를 살펴보면 속도 최적화 모델들과 비교해 경쟁력 있는 성능을 보였으나, 중간 난이도의 일부 추론 평가에서는 루나나 하이쿠가 여전히 앞서는 등 엇갈린 결과를 나타내기도 했습니다.

지연 시간 민감한 에이전트 시장 정조준

머큐리 3는 지연 시간이 곧바로 사용자 이탈로 이어지는 분야를 공략하고 있습니다.

웹 에이전트 개발사 타이니피시 AI(TinyFish AI)가 50개의 실시간 Mind2Web 작업으로 테스트한 결과, 머큐리 3는 50%의 성공률을 기록해 GPT-6.1-Sol을 앞섰습니다. 토큰 사용량과 실행 단계 수는 유사하면서도 토큰당 비용은 크게 줄였습니다.

스마트 글래스 검색 서비스를 만드는 옥텐 AI(Octen AI)는 검색 자체에 80밀리초밖에 걸리지 않아 모델 생성이 병목이었는데, 머큐리 3 도입 후 생성 시간 중앙값을 0.9초, 전체 왕복 지연 시간을 2.2초까지 단축했다고 밝혔습니다. 이외에도 교육 튜터 플랫폼 리비전도조(RevisionDojo)와 로리키트(Lorikeet) 등이 실시간 음성 및 고객 응대 환경에 이를 도입했습니다.

기본 이용료는 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러로 책정되었습니다. 현재는 출시 기념 50% 할인이 적용되어 각각 0.10달러, 0.35달러에 제공됩니다.

왜 중요한가

실시간 음성 에이전트나 다단계 브라우징 도구를 만드는 개발팀이라면 지금 당장 검토해 볼 가치가 충분합니다. 여러 차례 모델을 호출해야 하는 자율형 에이전트의 특성상 단계마다 1~2초씩 지체되면 전체 응답이 무너지기 쉬운데, 초당 1,000토큰이 넘는 속도는 이 병목을 크게 덜어줍니다. 기존 OpenAI API와 규격이 호환되어 오픈라우터(OpenRouter) 등에서 코드 수정 없이 바로 교체해 테스트할 수 있는 점도 매력적입니다.

업계 관점에서는 AI 경쟁의 최전선이 지능 대결에서 ‘극단적 응답 속도’로 번지고 있음을 보여줍니다. OpenAI가 초당 300토큰 수준의 GPT-6 아스트라 울트라패스트(Astra Ultrafast)를 내놓고 세레브라스(Cerebras)와 750MW 규모의 전용 인프라 계약을 맺는 등 하드웨어로 속도를 쥐어짜는 상황에서, 인셉션은 모델 아키텍처 자체를 바꿔 맞불을 놓았습니다.

무리하게 최고급 추론 모델과 힘겨루기를 하지 않고 속도 특화 시장을 정확히 겨냥한 것은 영리한 선택으로 보입니다. 다만 다단계 논리 추론이 필요한 작업에서 확산 모델이 기존 자기회귀 모델만큼 안정적인 답을 내놓을지는 더 긴 검증이 필요합니다. 아울러 웹소켓 연결이나 외부 도구 호출 시간 등 전체 파이프라인의 네트워크 지연까지 고려해 실질적인 체감 성능을 따져볼 필요가 있습니다.