xAI, 추론 비용 98% 낮춘 'Grok 4 Fast' 공개…무료 개방

그동안 고성능 추론 AI를 도입하려던 사용자들은 속도와 비용 사이에서 항상 타협해야 했습니다. 복잡한 문제를 잘 풀지만 느리고 비싼 플래그십 모델을 쓰거나, 빠르지만 논리적 한계가 뚜렷한 소형 모델을 골라야 했기 때문입니다.

xAI는 비용 효율성을 극대화한 추론 모델 Grok 4 Fast를 공개했습니다. xAI에 따르면 이 모델은 플래그십 모델인 Grok 4와 대등한 벤치마크 성능을 내면서도 추론 시 사용하는 사고 토큰을 평균 40% 줄였습니다. 토큰 단가 인하까지 더해져 동일한 성능을 얻는 데 드는 비용을 최대 98% 절감했으며, 서드파티 분석 기관인 Artificial Analysis로부터 현존 공개 모델 중 최고 수준의 비용 대비 지능 비율을 인정받았습니다.

빠른 응답과 깊은 추론을 하나로 통합

기존에는 빠른 응답을 주는 일반 모델과 생각을 거치는 추론 모델을 별도로 분리해 운영하는 경우가 많았습니다. 반면 Grok 4 Fast는 단일 가중치 아키텍처를 도입해 간단한 답변과 긴 사고 과정을 하나의 모델에서 시스템 프롬프트로 제어합니다.

검색 기능도 대폭 개선되었습니다. 도구 사용 강화학습을 거쳐 웹과 X 플랫폼을 자유롭게 탐색하며 이미지와 영상까지 종합해 실시간 데이터를 가져옵니다. 벤치마크 플랫폼인 LMArena의 Search Arena에서 Grok 4 Fast(코드명 menlo)는 1163점의 Elo 레이팅을 기록하며 o3-search를 17점 차로 제치고 1위에 올랐습니다. 텍스트 부문(코드명 tahoe)에서도 8위를 기록해 상위 체급 모델들과 대등하게 맞섰습니다.

200만 토큰 문맥 지원과 파격적인 단가

스펙과 가격 정책 역시 개발 친화적입니다. Grok 4 Fast는 최대 200만(2M) 토큰의 문맥 창을 제공해 방대한 양의 문서나 코드를 한 번에 처리할 수 있습니다.

API 가격은 128k 토큰 미만 구간에서 입력 100만 토큰당 0.20달러, 출력 0.50달러이며 캐시된 입력은 0.05달러까지 떨어집니다. 128k를 넘어가도 입력 0.40달러, 출력 1.00달러에 불과합니다. 또한 grok.com 웹 서비스에서는 유료 구독자뿐만 아니라 무료 사용자에게도 제한 없이 전면 개방되어 Fast 및 Auto 모드에 기본 적용되었습니다.

왜 중요한가

일반 사용자 입장에서는 실시간 검색과 고성능 추론 능력을 결합한 최신 모델을 무료로 자유롭게 쓸 수 있다는 점만으로도 시도해 볼 가치가 충분합니다. 복잡한 배경 지식이 필요한 이슈나 최신 트렌드를 파악할 때 신속하고 정교한 답변을 얻을 수 있습니다.

개발자와 기업에게는 200만 토큰 문맥과 98%의 비용 절감이 실질적인 무기가 됩니다. 그동안 비용 문제로 엄두를 내지 못했던 대규모 코드 분석이나 자율 에이전트 워크플로를 훨씬 가벼운 예산으로 구축할 수 있기 때문입니다.

우리는 xAI가 빠른 응답과 심층 추론을 하나의 모델 구조로 묶어낸 점을 매우 영리한 선택으로 봅니다. 라우팅 복잡도를 낮추고 지연 시간을 줄여 실시간 서비스 적용성을 크게 높였습니다. 다만 웹과 소셜 미디어 데이터를 적극적으로 긁어오는 구조 특성상 외부 정보의 노이즈나 환각을 완전히 제어해야 하는 과제는 여전히 남아 있습니다. 그럼에도 추론 모델의 가격 장벽을 사실상 무너뜨렸다는 점에서 경쟁사들에게 강력한 압박이 될 것으로 보입니다.