앤트로픽, 가성비 모델 '클로드 인스턴트 1.2' 출시…10만 토큰 컨텍스트 지원

최신 플래그십 AI 모델이 화려한 기술력으로 주목받지만, 매달 청구되는 API 비용을 마주해야 하는 개발자들에게 가장 절실한 것은 빠르고 저렴하면서도 기본기가 탄탄한 경량 모델입니다.

전직 OpenAI 경영진이 공동 창립한 인공지능 스타트업 Anthropic이 API 전용 엔트리급 모델의 최신 버전인 Claude Instant 1.2를 공개했습니다.

플래그십 모델의 두뇌를 이어받은 경량판

이번 업데이트는 최근 발표된 플래그십 모델 Claude 2의 핵심 장점들을 대거 흡수했습니다. 수학, 코딩, 추론, 안전성 등 주요 영역 전반에서 주목할 만한 성능 향상을 이뤘습니다.

Anthropic의 내부 벤치마크 결과에 따르면, 코딩 점수는 기존 버전 1.1의 52.8퍼센트에서 58.7퍼센트로 올랐습니다. 수학 문제 해결 점수 역시 80.9퍼센트에서 86.7퍼센트로 상승했습니다.

텍스트 생성 품질도 개선되었습니다. 응답 길이가 더 길어지고 구조화된 문장을 만들어내며, 출력 형식 지침도 훨씬 정확하게 따릅니다. 본문 인용 추출, 다국어 처리 능력, 질문 답변 기능 역시 향상되었습니다.

기업 도입의 걸림돌인 환각 현상(할루시네이션) 발생 가능성도 낮아졌으며, 프롬프트를 조작해 안전장치를 무력화하려는 탈옥(Jailbreak) 시도에 대한 방어력도 더 강화되었습니다.

가장 돋보이는 특징은 Claude 2와 동일한 10만 토큰의 콘텍스트 윈도우를 지원한다는 점입니다. 이는 영단어 기준 약 7만 5000단어 규모로, 소설 '위대한 개츠비' 한 권 분량의 텍스트를 대화 맥락 훼손 없이 한 번에 분석할 수 있는 수준입니다.

거대 자금전 속에서 꺼내든 실속형 카드

Anthropic의 최종 목표는 투자자 설명 자료에 언급된 AI 자체 학습용 차세대 알고리즘 구축입니다. 이메일 작성, 리서치, 창작을 능숙하게 해내는 가상 비서를 구현하겠다는 구상입니다.

하지만 Instant 1.2는 그런 미래형 시스템이라기보다는, 시장 점유율을 지키기 위한 현실적인 무기입니다. OpenAI의 보급형 API뿐만 아니라 Cohere, AI21 Labs 등 텍스트 생성 모델을 내놓는 경쟁사들과 직접 맞붙습니다.

2021년 전 OpenAI 연구 부사장 Dario Amodei가 이끌며 출범한 Anthropic은 지금까지 14억 5000만 달러의 투자를 유치했습니다. 그러나 회사가 구상하는 궁극의 챗봇을 완성하려면 향후 2년간 50억 달러가 더 필요하다고 추산하고 있어, API 수익 기반 확보가 시급한 상황입니다.

왜 중요한가

우리는 Anthropic이 10만 토큰이라는 대규모 문맥 처리 능력을 엔트리급 모델에까지 기본으로 탑재한 점을 대단히 영리한 전략이라고 판단합니다.

일반 개발자와 스타트업 입장에서는 장문의 계약서, 논문, 대화 로그를 처리할 때 값비싼 플래그십 모델을 쓰지 않고도 저렴한 Instant 1.2로 파이프라인을 구축할 수 있게 되었습니다. 운영 비용을 즉각적으로 낮출 수 있는 만큼 지금 바로 테스트해 볼 가치가 충분합니다.

업계 측면에서는 보급형 API 시장의 경쟁 기준선이 한 단계 올라갔습니다. 대형 콘텍스트 창을 고가 모델의 전유물로 두려던 경쟁사들도 가격과 입력 용량 정책을 재검토해야 하는 압박을 받게 될 것입니다.

다만 수만 단어에 달하는 방대한 데이터를 실제로 밀어 넣었을 때 Instant 고유의 빠른 응답 속도가 그대로 유지될지, 그리고 공식 테스트 수치만큼 실제 업무 환경에서도 오답을 확실히 걸러낼 수 있을지는 실제 상용 환경에서 꼼꼼히 검증해 볼 대목입니다.