구글, 초경량 모델 '제미나이 1.5 플래시-8B' 정식 출시

대규모 AI 서비스를 운영하는 개발자에게 가장 큰 고민은 성능 부족보다 감당하기 힘들게 불어나는 API 비용입니다.

구글이 10월 3일, 소형 모델인 Gemini 1.5 Flash-8B를 상용 서비스에 바로 투입할 수 있는 정식 버전으로 출시했다고 발표했습니다. 지난달 실험 버전으로 처음 선보인 뒤 한 달 만에 정식 지원에 들어간 셈입니다.

개발자들은 현재 Google AI Studio와 Gemini API를 통해 무료로 이용할 수 있으며, 유료 플랜 과금은 10월 14일 월요일부터 시작됩니다.

8B로 줄였지만 성능은 그대로

구글은 지난 5월 I/O 행사에서 속도와 효율성에 특화된 경량 모델 Gemini 1.5 Flash를 처음 공개했습니다. 이번 Flash-8B는 이를 더 작고 빠르게 압축한 파생 모델입니다.

구글에 따르면 여러 벤치마크 테스트에서 Flash-8B는 지난 5월에 나온 오리지널 1.5 Flash와 거의 대등한 성능을 보였습니다.

특히 일상적인 대화, 음성 전사, 긴 문맥 기반의 번역 작업에서 뛰어난 성능을 발휘합니다. 대규모 멀티모달 데이터 처리나 긴 문서 요약 작업에도 적합하도록 설계되었습니다.

분당 4,000회 요청 처리 지원

대량 트래픽을 처리해야 하는 개발자들을 위해 구글은 이 모델에 역대 Gemini 제품군 중 가장 낮은 단위 비용을 책정했습니다.

처리 한도 역시 대폭 늘어났습니다. 구글은 1.5 Flash-8B의 분당 요청 제한(RPM)을 기존의 두 배인 최대 4,000 RPM으로 끌어올렸습니다.

복잡한 논리 추론보다는 대규모로 발생하는 단순하고 반복적인 작업을 지연 없이 빠르게 처리하는 데 초점을 맞춘 결과입니다.

왜 중요한가

대량의 텍스트 요약, 오디오 전사, 고객 응대 챗봇 같은 고빈도 작업을 돌리고 있다면 지금 당장 갈아타 볼 만합니다. 단순 작업에 값비싼 최상위 플래그십 모델을 쓰는 건 낭비에 가까웠는데, 긴 문맥 처리 능력을 유지하면서도 운영비를 대폭 줄일 수 있기 때문입니다.

우리가 보기에 구글의 이번 전략은 매우 영리합니다. 최상위 모델의 지능 경쟁도 중요하지만, 실제 개발자 생태계를 장악하는 건 저렴한 비용으로 막힘없이 트래픽을 소화해 주는 가성비 모델이기 때문입니다.

Flash-8B를 앞세워 분당 4,000건의 고속 호출과 최저가 정책을 내세운 것은, 오픈AI를 비롯한 경쟁사들의 소형 모델 API 생태계에 직접적인 압박을 가할 것으로 보입니다.

다만 파라미터가 8B 수준인 만큼, 다단계 논리 추론이나 복잡한 맥락 이해가 필요한 작업에서는 여전히 한계가 분명합니다. 고빈도 단순 파이프라인에만 제한적으로 투입하는 식의 설계가 필요해 보입니다.