구글, 제미나이 API 구조화 출력 강화...파이단틱 지원 및 키 순서 유지

LLM을 실제 서비스 백엔드에 연동해 본 개발자라면 누구나 깨진 JSON 때문에 골머리를 앓아본 적이 있을 것입니다. 분명 포맷을 지정해 줬는데도 불필요한 사족을 붙이거나 필드 타입을 틀려 다운스트림 파서가 터지는 일이 흔하기 때문입니다.

구글이 이러한 문제를 해결하기 위해 Gemini API의 구조화된 출력(Structured Outputs) 기능을 대폭 강화했습니다. JSON Schema 지원 범위를 넓히고, 스키마에 정의된 키 순서대로 결과를 출력하도록 개선한 것이 핵심입니다.

Pydantic과 Zod, 별도 작업 없이 바로 연동

이번 업데이트로 현재 지원되는 모든 Gemini 모델에서 확장된 JSON Schema를 사용할 수 있게 되었습니다. 덕분에 파이썬의 Pydantic이나 자바스크립트/타입스크립트의 Zod 같은 널리 쓰이는 검증 라이브러리를 추가 변환 작업 없이 곧바로 Gemini API에 붙여 쓸 수 있습니다.

현업 개발자들이 꾸준히 요구해 온 핵심 키워드들도 대거 추가되었습니다. 조건부 유니온을 위한 anyOf, 재귀적 스키마를 표현하는 $ref, 숫자 범위를 제어하는 minimum과 maximum은 물론 prefixItems, additionalProperties, null 타입 지원까지 포함되었습니다.

스키마 순서 그대로 반환, 불필요한 API 호출 6배 감소

또 하나 눈에 띄는 변화는 프로퍼티 순서 보장입니다. Gemini 2.5 이상 모델 및 구글의 OpenAI 호환 API에서는 출력되는 필드 순서가 사용자가 정의한 스키마 순서와 정확히 일치하게 유지됩니다.

스트리밍 방식으로 응답을 처리할 때 특정 필드가 먼저 반환된다는 보장이 있으면, 전체 생성이 끝나기를 기다리지 않고도 앞선 데이터를 기반으로 다음 로직을 즉시 실행할 수 있어 효율적입니다.

초기 테스트에 참여한 파트너사들에 따르면, 프로덕션 환경에서 깨진 JSON 응답이 완전히 사라졌으며 재시도가 줄어들면서 특정 워크플로에서는 API 호출 횟수가 최대 6배까지 감소했습니다.

왜 중요한가

우리는 이번 조치가 LLM 경쟁의 초점이 단순한 벤치마크 점수에서 엔지니어링 신뢰성으로 이동하고 있음을 보여주는 사례라고 봅니다.

여러 AI가 협업하는 멀티 에이전트 시스템이나 대규모 데이터 파이프라인에서는 한 에이전트의 출력이 다른 에이전트의 입력으로 직결됩니다. 포맷이 단 한 번만 어긋나도 전체 파이프라인이 멈추기 때문에, 스키마 준수율 100%는 비즈니스 연속성을 위한 필수 조건입니다.

구글이 자체 규격을 고집하지 않고 개발자들에게 익숙한 Pydantic과 Zod 생태계를 그대로 품었으며, OpenAI 호환 엔드포인트까지 동일하게 챙겼다는 점은 매우 똑똑한 접근입니다. 타사 모델을 쓰던 팀이 Gemini로 전환할 때 겪는 마찰을 크게 줄여주기 때문입니다. 데이터 추출이나 정형 데이터 파이프라인을 구축 중인 개발팀이라면 지금 당장 전환을 검토해 볼 가치가 충분합니다.