앤트로픽, '클로드 페이블 5' 출시: 고위험 질의는 오퍼스로 자동 우회

고등학교 생물 시간에 배우는 '미토콘드리아가 세포의 발전소인 이유'를 물었을 때, 대답을 거부하고 이전 세대 모델로 떠넘겨버리는 최신 플래그십 AI가 등장했습니다.

Anthropic은 6월 9일, 일반에 공개된 모델 중 가장 강력한 성능을 지닌 'Claude Fable 5'를 출시했습니다. 미국 정부와 협력하는 '프로젝트 글래스윙'을 통해 검증된 보안 인력에만 제공되는 'Claude Mythos 5'도 함께 선보였습니다. 하지만 공개 직후 접속이 전면 중단되는 장애가 발생하며 현재 복구 작업이 진행 중입니다.

위험 질문은 이전 모델로 우회, 30일 데이터 보관 논란

Fable 5는 기존에 극소수 인프라 파트너에게만 제공되던 'Mythos'급 성능을 일반용으로 개방한 모델입니다. 하지만 Anthropic은 사이버 테러와 생화학 무기 제조 등 이중 용도 악용을 막기 위해 전례 없이 깐깐한 안전장치를 둘렀습니다.

자체 분류기가 사이버 보안, 생물학, 화학, 모델 증류 관련 질문을 감지하면 Fable 5 대신 이전 주력 모델인 'Claude Opus 4.8'이 대신 답변합니다. Anthropic은 이 우회 비율이 전체의 5% 미만이라고 밝혔지만, 외신 테크버지의 테스트 결과 '세포막의 역할', 'mRNA 백신 작동 원리', '꽃가루 알레르기의 원인' 같은 지극히 기초적인 질문마저 줄줄이 거부당했습니다. Anthropic 측은 치명적 위험을 막고 빠르게 출시하기 위해 필터를 의도적으로 보수적으로 조였다고 해명했습니다.

여기에 보안 강화를 이유로 기존에 '데이터 무보관' 계약을 맺었던 기업 고객을 포함한 모든 이용자의 프롬프트 트래픽을 30일간 강제 보관하기로 결정하면서 기업 보안 담당자들의 반발도 예상됩니다.

2달 걸릴 5,000만 줄 코드 마이그레이션을 단 하루 만에

안전 필터에 걸리지 않는 소프트웨어 개발과 복잡한 분석 영역에서는 압도적인 수치를 기록했습니다.

초기 테스트에 참여한 스트라이프(Stripe)는 5,000만 줄 규모의 루비 코드베이스 전체를 마이그레이션하는 작업을 단 하루 만에 마쳤다고 밝혔습니다. 숙련된 개발자 팀이 두 달 이상 매달려야 할 분량입니다. 비전 성능도 대폭 개선되어 별다른 복잡한 장치 없이 오직 화면 캡처 이미지만 보고 포켓몬스터 파이어레드 버전을 클리어했습니다.

보안용 제한이 풀린 Mythos 5의 경우, 단백질 설계 연구 속도를 10배 끌어올렸으며 유전체학 연구에서는 과학 저널 '사이언스'에 발표된 기존 연구보다 우수한 머신러닝 모델을 일주일 만에 자율적으로 구축했습니다.

두 모델의 가격은 100만 입력 토큰당 10달러, 출력 토큰당 50달러로 책정되었습니다. Opus 4.8의 두 배 가격입니다. 일반 구독 이용자는 6월 22일까지 무료로 체험할 수 있으며, 6월 23일부터는 사용량 기반 크레딧 결제로 전환됩니다.

왜 중요한가

수천만 줄의 레거시 코드를 현대화해야 하거나 복잡한 금융 데이터 추론이 필요한 엔지니어와 기업에게 Fable 5는 당장 도입을 검토해 볼 만한 강력한 도구입니다. 토큰 단가는 두 배로 뛰었지만, 라쿠텐의 평가처럼 모델이 스스로 검증하며 오류를 줄여 사람의 수개월 치 공수를 아껴준다면 비용 이상의 가치를 냅니다.

하지만 현실적인 장벽도 높습니다. 엔터프라이즈 환경에서 30일 강제 데이터 보관 정책은 민감한 기밀 데이터를 다루는 기업의 진입을 원천 차단할 수 있습니다. 또한 생물학, 의료 분야 연구자들은 무해한 연구 질문마저 구형 모델로 넘겨지는 극단적인 오탐 탓에 제대로 된 성능을 체감하기 어렵습니다.

우리는 최상위 AI 모델 앞에 별도의 감시 AI를 두고 위험 상황마다 구형 모델로 트래픽을 넘기는 Anthropic의 이번 시도가 향후 초지능 모델 배포의 전형적인 표준이 될 것으로 봅니다. 다만 고등학교 수준의 세포 생물학 질문마저 겁을 먹고 떠넘겨버리는 모습은, 프론티어 AI의 안전 통제가 아직 얼마나 투박하고 갈 길이 먼지를 여실히 보여줍니다.