앤트로픽, 클로드 API에 인용 기능 출시: 원문 문장 정확히 추적

기업용 생성형 AI를 구축해 본 개발자라면 누구나 답변의 출처를 확인하느라 골머리를 앓았을 것입니다. 지금까지는 프롬프트를 길게 작성해 원문 출처를 함께 표기하도록 강제하는 경우가 많았지만, 서식이 깨지거나 엉뚱한 가짜 출처를 지어내는 문제가 빈번했습니다.

앤트로픽이 1월 23일 클로드 API와 구글 클라우드 버텍스 AI를 통해 원문 문장과 단락을 정확히 짚어주는 내장 기능인 '인용(Citations)'을 정식 출시했습니다. 적용 모델은 클로드 3.5 소넷과 클로드 3.5 하이쿠입니다.

번거로운 출처 프롬프트의 종말

이 기능은 모델이 답변을 도출할 때 참조한 근거를 API 차원에서 직접 연결해 줍니다.

개발자는 별도의 파일 저장소를 마련할 필요 없이 메시지스 API를 통해 PDF나 텍스트 문서를 컨텍스트에 넣기만 하면 됩니다. API가 문서를 문장 단위로 자동 분할하며, 필요한 경우 개발자가 직접 청킹한 데이터를 전달할 수도 있습니다.

앤트로픽의 자체 벤치마크에 따르면, 이번 내장 인용 기능은 기존에 개발자들이 직접 구현하던 맞춤형 방식보다 우수한 성능을 보이며 회상 정확도를 최대 15% 끌어올렸습니다.

문장 단위 청킹과 인용문 토큰 무료화

비용 정책에서도 개발자 친화적인 결정을 내렸습니다.

문서를 전달하는 데 필요한 입력 토큰 요금은 정상 부과되지만, 답변 과정에서 인용되어 출력되는 원문 텍스트에 대해서는 출력 토큰 비용을 전혀 받지 않습니다. 출처를 꼼꼼하게 표기할수록 API 비용이 치솟던 부담을 덜어낸 셈입니다.

현업 고객들의 반응도 즉각적입니다. 톰슨 로이터의 법률·세무 AI 코카운슬 총괄 제이크 헬러는 자체 인용 시스템을 구축하고 유지보수하는 일이 매우 까다로웠는데, 이번 기능으로 훨씬 안정적인 서비스 배포가 가능해졌다고 밝혔습니다.

금융 에이전트 기업 엔덱스의 타룬 아마사 대표 역시 출처 환각 및 서식 오류가 기존 10%에서 0%로 줄어들었고, 답변당 인용된 레퍼런스 수가 20% 늘어났다고 설명했습니다.

왜 중요한가

우리는 앤트로픽의 이번 조치가 신뢰성이 생명인 엔터프라이즈 RAG 시장의 판도를 바꿀 만한 똑똑한 행보라고 봅니다.

법률이나 금융, 헬스케어 같은 분야에서는 아무리 그럴듯한 답변이라도 출처 확인이 불가능하면 도입 자체가 불가능합니다. 지금까지 엔지니어들은 이 문제를 풀기 위해 복잡한 프롬프트와 후처리 파이프라인을 덧대어 왔는데, 모델 원천사에서 완결성 높은 기능을 내장해 주면서 수많은 수작업이 필요 없게 되었습니다.

특히 인용 출력 토큰을 무료로 푼 전략은 매우 영리합니다. 고가의 출력 토큰 부담을 없애줌으로써 개발자들이 클로드를 안심하고 장문 검증 및 리서치 엔진으로 활용하도록 유도하고 있습니다. 거대 컨텍스트 창 시대로 넘어가면서, 기존 미들웨어가 담당하던 영역을 모델 제작사가 직접 집어삼키는 흐름이 더욱 뚜렷해지고 있습니다.