앤트로픽, 10만 토큰 처리하는 '클로드 2' 출시 및 웹 베타 개방

수백 페이지짜리 기술 문서나 두꺼운 서적을 AI에 넣으려다 입력창 글자 수 제한에 걸려 내용을 일일이 쪼개 넣었던 경험이 한 번쯤 있을 것입니다.

앤스로픽(Anthropic)이 차세대 거대언어모델(LLM) '클로드 2(Claude 2)'를 공개했습니다. 이전 모델과 달리 이번에는 일반 사용자가 무료로 써볼 수 있는 웹 베타 사이트(claude.ai)를 함께 열었습니다. 기업용 API 역시 기존 클로드 1.3과 동일한 가격으로 제공되며, 현재 미국과 영국 사용자는 즉시 이용할 수 있습니다.

책 한 권 통째로 읽고 수천 토큰 단숨에 작성

클로드 2의 가장 두드러진 변화는 10만(100K) 토큰에 달하는 입력 컨텍스트 지원입니다. 사용자는 수백 페이지 분량의 기술 문서나 책 한 권 전체를 프롬프트 하나에 넣어 분석시킬 수 있습니다. 출력 길이 또한 수천 토큰 수준으로 늘어나 메모나 서한, 긴 이야기를 한 번에 작성해 냅니다.

기술적 성능도 크게 뛰었습니다. 파이썬 코딩 벤치마크인 코덱스 휴먼이발(Codex HumanEval) 점수는 기존 56.0%에서 71.2%로 대폭 올랐습니다. 초등 수학 문제 데이터셋인 GSM8k에서도 85.2%에서 88.0%로 상승했습니다.

추론 능력 시험인 미국 변호사 시험 객관식 부문에서는 76.5%를 기록해 1.3 버전의 73.0%를 넘어섰습니다. 미국 대학원 입학시험(GRE)의 경우 언어와 작문 영역에서 상위 10% 이내(90백분위수 이상)의 점수를 얻었으며, 수리 영역에서는 지원자 중앙값 수준을 기록했습니다.

안전성 측면에서는 자체 레드팀 테스트를 거쳐 유해한 질문에 안전하게 답변하는 능력이 이전 모델보다 2배 향상되었습니다. 재스퍼(Jasper)와 소스그래프(Sourcegraph) 같은 초기 협력사들은 이미 10만 토큰 창과 최신 학습 데이터를 바탕으로 긴 코드베이스와 장문 콘텐츠 제작에 클로드 2를 도입하고 있습니다.

왜 중요한가

우리는 앤스로픽이 모델 자체의 개선보다 일반 대중이 무료로 접근할 수 있는 claude.ai 웹 서비스를 내놓았다는 점에 주목합니다. 그동안 앤스로픽의 압도적인 긴 문맥 처리 능력은 기업 계약이나 일부 개발자 전유물에 가까웠기 때문입니다.

긴 논문을 요약해야 하는 연구자나 대규모 레거시 코드를 검토해야 하는 개발자라면 지금 바로 테스트해 볼 가치가 충분합니다. 텍스트를 자르고 이어 붙이던 번거로움을 단번에 덜어낼 수 있습니다.

업계 전체로 보면 API 가격을 동결한 채 10만 토큰과 코딩 역량을 대폭 끌어올림으로써, 오픈AI가 주도하던 챗봇 시장에 가장 강력한 맞불을 놓은 모양새입니다. 모델의 환각이나 건강 관련 고위험 분야 사용 제한 같은 주의점은 여전하지만, 긴 문서 처리 실무 영역에서는 판도를 뒤흔들 대안이 등장했다고 평가할 만합니다.