xAI, '그록 보이스 2.0' 공개: 말하면서 추론, 지연 시간 0.7초

AI 상담원과 통화하다가 어색한 정적이나 부정확한 음성 인식 때문에 답답했던 경험이 누구나 있을 것입니다.

xAI가 새롭게 공개한 음성 모델 Grok Voice 2.0은 실제 통화 환경에서 발생하는 이러한 문제를 정면으로 해결하는 데 초점을 맞췄습니다.

말하면서 생각하는 AI, 응답 시간은 0.7초

벤치마크 기관 Artificial Analysis에 따르면, Grok Voice 2.0의 음성 대 음성 종합 품질 점수는 82.9%를 기록했습니다. 이는 GPT-Realtime-2.1(79.1%)과 Gemini 3.1 Flash(69.5%)를 모두 앞서는 수치입니다.

가장 체감하기 쉬운 개선은 응답 속도입니다. 첫 음성이 출력되기까지 걸리는 시간(Time to First Audio)은 0.70초로, 이전 모델의 1.25초보다 크게 단축되었으며 Gemini 3.1 Flash의 2.98초와 비교해도 확연히 빠릅니다.

핵심 기술은 발화와 추론을 동시에 처리하는 병렬 구조입니다. 이전처럼 생각을 마친 뒤 입을 여는 것이 아니라, 말을 시작하면서 백그라운드 추론을 진행하기 때문에 에이전트의 첫 문장이 끝나기도 전에 도구 호출이 완료됩니다.

음성 인식 정확도 역시 강화되었습니다. 24개 언어 테스트에서 Deepgram Nova 3나 ElevenLabs Scribe v2 같은 전용 전사 모델 대비 1.5~2.0배 높은 정확도를 보였습니다. 주변 소음이나 전화 압축이 심한 환경에서는 격차가 최대 10배까지 벌어집니다.

사람 같은 대화 호흡과 실제 현장 도입

대화 감각도 개선되었습니다. xAI는 강화학습을 통해 모델이 더 짧은 문장으로 말하고, 한 번에 한 가지 질문만 던지며, 불필요한 미사여구를 줄이도록 훈련했습니다.

이 모델은 이미 실제 서비스에 적용되었습니다. Starlink 고객센터 전화망(+1 888 GO STARLINK)에서 진행된 A/B 테스트 결과, 영업 전환율과 상담 자체 해결률이 유의미하게 상승했습니다.

가격은 음성 1분당 0.08달러로 책정되었습니다. 2026년 8월 5일부터 기본 엔드포인트가 Grok Voice 2.0으로 자동 전환되므로 기존 프롬프트를 수정할 필요 없이 바로 적용됩니다.

왜 중요한가

음성 인식, 언어 모델 추론, 음성 합성을 따로 엮어 쓰던 기존 방식은 필연적으로 2~3초 이상의 지연을 발생시켜 고객 응대 현장에서 쓰기 어려웠습니다.

Grok Voice 2.0이 첫 음성 지연 시간을 0.7초로 줄이고 통화 소음 환경에서의 인식률을 10배 끌어올린 것은 비즈니스 도입 장벽을 크게 낮춘 조치라고 봅니다. 특히 Starlink 전화 회선에서 직접 전환율 향상을 증명한 점은 기업 고객에게 강한 설득력을 줍니다.

분당 0.08달러(시간당 약 4.8달러)라는 비용은 대규모 콜센터를 종일 운영하기에 여전히 따져볼 계산이 남지만, 실시간 대화의 매끄러움과 속도 경쟁에서 xAI가 OpenAI와 Google을 바짝 압박하고 있는 것은 분명해 보입니다.