앤트로픽, 클로드의 복잡한 도구 호출 돕는 ‘think’ 도구 공개

AI 에이전트가 복잡한 업무를 수행하다가 실패하는 이유는 도구가 부족해서가 아니라, 이전 도구의 실행 결과를 제대로 짚어보지 않고 성급하게 다음 단계로 넘어가기 때문인 경우가 많습니다.

Anthropic은 이러한 문제를 해결하기 위해 Claude에게 전용 'think(생각)' 도구를 부여하는 엔지니어링 접근법을 공유했습니다. 쉽게 말해 도구 호출 과정 중간에 모델이 잠시 멈춰 서서 스스로 상황을 정리하고 검토할 수 있는 합법적인 중간 메모장을 열어주는 방식입니다.

실행 중간에 끼워 넣는 의도적 브레이크

이는 Claude 3.7의 내장 기능인 '확장된 생각(extended thinking)'과 비슷해 보이지만 작동 지점이 다릅니다. 확장된 생각이 답변을 출력하기 전에 전체 계획을 깊이 고민하는 방식이라면, 'think' 도구는 긴 도구 호출 체인 사이사이에서 새로운 외부 정보를 받아들였을 때 작동합니다.

외부 API 호출 결과를 받아본 뒤에는 사용자의 초기 프롬프트만으로는 알 수 없었던 새로운 제약이나 데이터가 생겨납니다. 이때 'think' 도구를 호출해 지금까지 확보한 정보가 충분한지, 정책 위반은 없는지 되짚어보며 궤도를 수정하는 것입니다.

고객 서비스 시뮬레이션 벤치마크인 τ-Bench에서 효과는 분명했습니다. 규약이 복잡한 항공 도메인의 경우 기존 베이스라인의 pass^1 성공률은 0.370에 불과했으나, 'think' 도구와 최적화된 프롬프트를 함께 적용하자 0.570으로 54%나 상승했습니다. 규정이 상대적으로 단순한 소매 도메인에서는 추가 프롬프트 없이 도구만 추가해도 0.783에서 0.812로 올랐습니다. 또한 코딩 벤치마크인 SWE-bench에서도 think 도구 추가만으로 평균 1.6%의 유의미한 성능 향상을 보이며 0.623이라는 점수를 달성했습니다.

언제 쓰고 언제 쓰지 말아야 할까

물론 이 방식은 공짜가 아닙니다. Anthropic은 'think' 도구를 도입하면 프롬프트 길이와 출력 토큰 소모량이 늘어나 비용과 지연 시간이 발생한다고 경고합니다.

단순한 명령 수행이나 단일 호출, 혹은 여러 도구를 병렬로 한 번에 실행하는 상황에서는 이 도구를 써도 개선 효과가 거의 없습니다. 대신 도구 출력 결과를 면밀히 분석해 되돌아가야(backtrack) 하는 경우, 세부 준수 사항이 빽빽한 정책 중심 환경, 이전 단계의 실수가 치명적인 순차적 의사결정 워크플로우에만 제한적으로 써야 합니다.

효과를 극대화하려면 도구 자체의 설명란보다는 시스템 프롬프트에 구체적인 추론 단계와 의사결정 트리 예시를 제공하는 것이 유리합니다.

왜 중요한가

우리는 이 방법론이 현재 AI 에이전트 생태계의 가장 가려운 곳을 긁어주는 현실적인 엔지니어링 팁이라고 봅니다. 에이전트가 현업에서 사고를 치는 근본적인 이유는 똑똑하지 않아서가 아니라, 외부 데이터를 수신한 직후 스스로를 검증할 구조적 여유가 없었기 때문입니다.

기업용 CS 챗봇이나 복잡한 내부 자동화 도구를 개발 중인 팀이라면 지금 당장 프로덕션에 적용해 볼 가치가 충분합니다. 모델을 파인튜닝하거나 차세대 모델을 기다릴 필요 없이, 스키마에 빈 껍데기 도구 하나를 추가하고 시스템 프롬프트를 다듬는 것만으로도 오작동을 상당 부분 막을 수 있기 때문입니다.

다만 한계도 뚜렷합니다. Anthropic이 글 서두에서 업데이트로 밝혔듯, 모델 자체의 기본 확장 생각 기능이 지속적으로 발전하면서 대다수 상황에서는 전용 도구보다 네이티브 기능을 쓰는 쪽이 권장되고 있습니다. 결국 'think' 도구는 모델이 도구 사용 중간에 동적으로 자가 검증을 수행하도록 돕는 과도기적이고 영리한 편법이며, 앞으로 이러한 중간 추론 흐름은 모델 런타임 안으로 점차 통합될 것으로 보입니다.