구글, '에이전틱 RAG' 공개: 부족한 정보 끝까지 찾아 사실 정확도 34% 개선

지금까지 대부분의 기업용 RAG(검색 증강 생성)는 사실상 한 번 검색해서 나온 결과에 운을 맡기는 방식이었습니다.

사용자 질문에 필요한 단서가 여러 문서에 흩어져 있으면, 첫 번째 검색에서 빠진 부분을 채우지 못해 AI가 거짓말을 지어내거나 무작정 정보가 없다고 답하기 일쑤였습니다.

구글 리서치와 구글 클라우드는 제미나이 엔터프라이즈 에이전트 플랫폼을 위한 새로운 프레임워크인 '에이전틱 RAG(Agentic RAG)'를 공개했습니다. 한 번 찾고 끝내는 대신, 내용이 충분한지 확인하고 부족하면 다시 찾아 나서는 자율적 다중 에이전트 파이프라인입니다.

벤치마크 결과에 따르면 기존 표준 RAG 대비 사실 정확도가 34% 향상되었으며, 지연 시간 증가는 거의 없는 수준에 그쳤습니다.

초안을 검사해 빈틈을 찔러내는 전문 에이전트

구글은 거대 모델 하나에 모든 짐을 지우는 대신 작업을 여러 특화 에이전트로 쪼갰습니다.

전체를 조율하는 루트 에이전트, 복잡한 질문을 분석하는 플래너, 검색어를 다듬는 쿼리 재작성기, 여러 사내 데이터를 동시에 훑는 RAG 에이전트가 한 팀으로 움직입니다.

여기서 가장 핵심적인 장치는 '충분한 컨텍스트 에이전트(Sufficient Context Agent)'입니다. 공장 생산 라인 끝에 서 있는 품질 검사관에 가깝습니다.

이 에이전트는 검색된 문서 조각뿐만 아니라 시스템이 임시로 작성한 답변 초안을 함께 검토합니다. 질문에서 세 가지를 물었는데 두 가지 정보만 확보됐다면, 그냥 넘어가지 않고 '정보 부족' 판정을 내립니다.

단순히 부족하다고 알리는 데 그치지 않고 구체적으로 무엇이 빠졌는지 이유를 짚어낸 뒤, 누락된 항목만 콕 집어 후속 검색을 지시합니다. 모든 근거가 빈틈없이 모인 뒤에야 최종 답변이 사용자에게 전달됩니다.

왜 중요한가

우리는 구글이 선보인 이번 패턴이 기업용 AI 구축의 오랜 난제를 정면으로 돌파했다고 봅니다. 복잡한 업무 데이터에서 정보가 파편화되어 있을 때, 단일 단계 RAG는 너무 일찍 포기하거나 환각을 일으켜 실무 적용을 가로막아 왔습니다.

개발자와 기업 입장에서는 지연 시간을 거의 늘리지 않으면서 사실 정확도를 34%나 끌어올렸다는 점이 매력적입니다. 거대 모델에 긴 프롬프트를 먹여 무작정 추론을 반복하게 만드는 것보다, 검사관 에이전트를 두고 맞춤형 보충 검색을 돌리는 편이 훨씬 효율적이고 현실적입니다.

업계 전반으로 봐도 기존의 단순 RAG는 빠르게 경쟁력을 잃고, 이 같은 에이전틱 구조가 표준으로 자리 잡을 가능성이 높습니다. 구글 클라우드를 직접 쓰지 않더라도 시스템 아키텍처 관점에서 충분히 차용할 만한 모범 사례입니다.

다만 자율 검색 루프가 늘 그렇듯 예외 처리는 숙제입니다. 사내 문서가 지나치게 오염되어 있거나 정답 자체가 아예 없는 질문일 때, 에이전트가 헛도는 검색을 얼마나 깔끔하게 끊어내고 비용 폭증을 막아줄 수 있을지가 실제 도입 성패를 가를 것입니다.