구글, 속도 2.5배 높이고 가격 낮춘 ‘제미나이 3.1 플래시-라이트’ 출시

대규모 AI 서비스를 운영하는 개발자에게 가장 큰 고민은 비용과 응답 지연입니다. 대형 모델을 쓰자니 API 비용 감당이 안 되고, 저가형 경량 모델을 쓰자니 복잡한 지시사항을 무시하기 일쑤였기 때문입니다.

구글이 공개한 제미나이 3.1 플래시-라이트(Gemini 3.1 Flash-Lite)는 바로 이 실무 환경의 병목을 해결하기 위해 설계된 모델입니다. 제미나이 3 시리즈 중 가장 빠르고 비용 효율적인 모델로, 구글 AI 스튜디오의 제미나이 API와 버텍스 AI(Vertex AI)를 통해 프리뷰로 제공되기 시작했습니다.

대폭 단축된 지연 시간과 공격적인 가격

가격은 100만 입력 토큰당 0.25달러, 100만 출력 토큰당 1.50달러로 책정되었습니다.

아티피셜 애널리시스(Artificial Analysis) 벤치마크에 따르면, 이전 세대인 제미나이 2.5 플래시 대비 첫 번째 토큰 생성 시간(Time to First Answer Token)이 2.5배 빨라졌고 전체 출력 속도도 45% 향상되었습니다.

성능 역시 경량 모델의 한계를 뛰어넘었습니다. 아레나(Arena.ai) 리더보드에서 1432의 Elo 점수를 기록했으며, GPQA 다이아몬드에서 86.9%, MMMU 프로에서 76.8%를 기록해 이전 세대의 더 큰 모델인 2.5 플래시의 추론 및 멀티모달 벤치마크를 앞섰습니다.

사고 수준 조절로 맞추는 워크로드 최적화

단순한 속도 개선 외에도, 구글은 AI 스튜디오와 버텍스 AI에서 모델의 '사고 수준(thinking levels)'을 개발자가 직접 선택할 수 있는 기능을 기본 제공합니다.

비용과 속도가 절대적인 대규모 번역이나 콘텐츠 검수 작업에는 사고 수준을 낮춰 즉각 반응하게 만들고, UI나 대시보드 생성, 시뮬레이션 같은 심층 추론이 필요한 작업에는 사고 수준을 높여 정밀도를 확보할 수 있습니다.

이미 래티튜드(Latitude), 카트휠(Cartwheel), 웨어링(Whering) 같은 초기 파트너사들이 실제 서비스에 도입해 테스트를 진행하고 있으며, 복잡한 프롬프트 입력과 까다로운 지시사항을 대형 모델 수준으로 정확히 수행한다는 평가를 내놓았습니다.

왜 중요한가

실제 프로덕션 환경에서 오가는 수많은 트래픽은 복잡한 논문 작성보다는 신속하고 저렴한 반복 처리를 필요로 합니다. 100만 입력 토큰당 0.25달러라는 저렴한 단가와 크게 단축된 초기 지연 속도는, 그동안 비용 문제로 도입을 주저했던 실시간 에이전트와 대규모 파이프라인의 상용화를 현실적인 영역으로 끌어내렸습니다.

업계 차원에서도 최고 성능 플래그십 경쟁을 넘어, 실제 수익을 창출하는 경량 고효율 인프라 경쟁을 한층 자극할 것으로 보입니다.

우리는 구글이 보급형 모델에 '사고 수준 조절' 기능을 기본 탑재한 점을 매우 영리한 접근으로 평가합니다. 고정된 사양을 강제하지 않고 지연 시간과 추론 깊이 사이의 균형을 개발자가 직접 조율할 수 있게 만든 점은 동급 경쟁 모델 대비 뚜렷한 실용적 강점이 될 것으로 보입니다.