코히어, Rerank 3.5 공개: 추론 성능과 100개 이상 다국어 검색 강화

RAG 시스템을 구축해 본 개발자라면 누구나 겪는 골칫거리가 있습니다. 벡터 데이터베이스가 대충 그럴듯한 문서를 찾아와 LLM에 넘기면, 모델이 엉뚱한 맥락을 짚고 그럴듯한 헛소리를 내놓는 문제입니다.

대부분의 원인은 1차 검색의 정밀도 부족에 있습니다. 코히어는 12월 2일 이러한 검색 병목을 해결하기 위해 차세대 재순위화 모델인 Rerank 3.5를 출시하고 Amazon Bedrock을 통해 곧바로 제공하기 시작했습니다.

검색의 두 번째 관문 역할을 하는 크로스 인코더

기존 벡터 검색은 사전에 연산해 둔 고정 벡터에 의존합니다. 속도는 빠르지만 복잡한 비즈니스 로직이나 문맥이 얽힌 질문에서는 의도를 놓치기 쉽습니다.

Rerank 3.5는 크로스 인코더 방식을 사용합니다. 사용자의 질문과 후보 문서 목록을 쿼리가 들어온 시점에 함께 집어넣고 의미적 유사성을 동적으로 정밀 분석합니다.

덕분에 1차 검색에서는 문서를 넓게 긁어모으고, LLM으로 넘어가기 직전에 Rerank가 가장 알맞은 문서만 골라내어 환각 현상을 눈에 띄게 줄여줍니다.

100개 이상의 언어와 복잡한 기업 데이터 정조준

이번 버전의 핵심은 복잡한 추론 능력과 폭넓은 다국어 지원입니다. 한국어를 비롯해 영어, 중국어, 일본어, 아랍어, 스페인어 등 100개 이상의 언어를 지원합니다.

글로벌 기업 입장에서는 국가별로 검색 파이프라인을 따로 짤 필요 없이 단 하나의 모델로 전 세계 사내 문서를 아우를 수 있게 된 셈입니다.

실제 산업 데이터 벤치마크에서도 우수한 결과를 보였습니다. 코히어에 따르면 금융과 이커머스 영역의 검색 벤치마크에서 최고 수준의 성능을 기록했습니다.

키-값 형태로 정리된 이커머스 상품 정보는 물론, 호텔 및 숙박 검색, GitHub 이슈나 프로젝트 관리 도구의 티켓 검색에서도 정확도가 크게 향상되었습니다.

도입 장벽도 낮습니다. AWS의 Amazon Bedrock과 Bedrock Knowledge Bases에 이미 탑재되어 있어, 인프라 관리 없이 단 한 번의 API 호출로 기존 시스템에 바로 얹을 수 있습니다.

왜 중요한가

사내 챗봇이나 지식 베이스를 운영 중인 팀에게 메인 LLM을 교체하는 작업은 매우 큰 부담입니다. 하지만 리랭커를 중간에 끼워 넣는 작업은 단 몇 줄의 코드만으로 즉각적인 정확도 개선을 이끌어낼 수 있는 가장 가성비 높은 방법입니다. 지금 바로 테스트해 볼 가치가 충분합니다.

업계 전반으로 봐도 AI 검색의 경쟁 축이 거대 모델의 단순 파라미터 경쟁에서 검색 파이프라인 전체의 완성도로 넘어가고 있음을 보여줍니다. 거대 테크 기업들과의 전면전을 피하고 기업용 정밀 검색이라는 실용적인 영역을 파고든 코히어의 전략은 매우 영리해 보입니다.

다만 크로스 인코더 구조 특성상 주의할 점도 있습니다. 정밀도가 높은 대신 단순 벡터 검색에 비해 연산량이 많아 지연 시간과 API 호출 비용이 늘어날 수 있습니다. 트래픽이 많은 서비스라면 1차 검색에서 넘겨주는 후보 문서의 개수를 적절히 조율하는 작업이 필수적이라고 봅니다.