Anthropic, 안전 분류기 개선: Claude Fable 5 생물학 오탐 강등 85% 감소

최근 Claude Fable 5에 혈액 검사 수치를 묻거나 가벼운 감기 증상을 상담했을 때 답변 수준이 기대에 못 미쳤다면, 단순한 착각이 아닙니다.

Anthropic은 그동안 생물학 관련 키워드가 감지되면 시스템을 능력이 떨어지는 Opus 5로 몰래 전환하는 '폴백(fallback)' 안전장치를 가동해 왔기 때문입니다.

Anthropic은 8월 7일 Claude Fable 5의 생물학 안전 분류기를 대대적으로 업데이트했다고 밝혔습니다. 자체 테스트 결과, 생물학 관련 질문에서 하위 모델로 떨어지는 오탐 비율이 약 85% 줄어들었습니다.

전문가 능력을 갖춘 AI와 생화학 무기 위험

Fable 5 출시 당시 Anthropic이 생물학 질문을 거의 통째로 차단했던 데는 이유가 있습니다.

Anthropic의 내부 평가에 따르면, Fable 5는 매우 복잡한 생물학적 작업에서 이미 인간 전문가를 뛰어넘는 성능을 보이며 실제 실험 과정 지원까지 가능합니다. 이런 능력이 악의적인 집단에 들어가면 생물학 무기 개발에 악용될 수 있습니다.

미국 정보당국의 2026 연례 위협 평가 보고서도 합성생물학과 유전체 편집 기술이 새로운 생물학적 위협을 낳고 있으며, 일부 국가의 생화학 무기 프로그램이 최첨단 AI의 도움을 받아 가속화될 수 있다고 경고한 바 있습니다.

생물학 연구는 선의와 악의를 칼로 자르듯 구분하기 어렵습니다. 예를 들어 고혈압 치료제인 캡토프릴을 개발하려면 인간의 혈압을 치명적으로 떨어뜨리는 뱀독을 분리해야 하고, 생백신을 만들려면 원인 병원체를 직접 배양해야 합니다. 공격자들은 이러한 모호성을 이용해 위험한 작업을 일반 연구처럼 위장하곤 합니다.

Anthropic은 모델 배포를 몇 달씩 미루는 대신, 일단 기준을 극단적으로 엄격하게 잡아 오탐을 감수하더라도 위험을 원천 차단하는 방식을 택했습니다.

헌법 규칙 다시 써서 일상 건강 상담 정상화

Anthropic은 지난 몇 주간 안전 분류기의 기반이 되는 '헌법' 규칙을 다시 작성했습니다. 내외부 생물학 전문가들의 검토를 거쳐 무해한 일상 질문의 기준을 아주 세밀하게 다듬었습니다.

그 결과 검사 결과지 해석, 일상적인 증상 문답, 학교 생물 수업 수준의 학습 질문은 이제 Fable 5의 본래 성능으로 답변을 받을 수 있게 되었습니다. 의료 종사자들의 임상 보조 작업 지원도 한층 수월해졌습니다.

다만 악용 우려가 큰 이중 용도 분야는 여전히 차단됩니다. 바이러스학, 독성학, 분자 설계 같은 전문 영역은 여전히 분류기가 작동해 Opus 5로 전환됩니다. 따라서 전문적인 신약 개발이나 합성생물학 연구에는 아직 Fable 5를 온전히 투입할 수 없습니다.

Anthropic은 인증된 생물학 연구자와 제약사를 위해 별도의 '신뢰할 수 있는 접근 경로'를 구축해 순차적으로 기능을 개방할 계획입니다.

왜 중요한가

일반 사용자와 임상 의료진 입장에서는 이번 조치로 체감 성능이 크게 올라갔습니다. 전문 의학 용어를 썼다는 이유만으로 똑똑한 모델 대신 이전 세대 모델이 답변하는 답답함이 사라졌기 때문입니다. 하지만 신약 개발이나 첨단 바이오 연구 현장의 전문가들에게는 핵심 분자 설계 기능이 여전히 잠겨 있어 당장 업무 파트너로 쓰기에는 한계가 뚜렷합니다.

우리는 Anthropic이 선택한 '초기 전면 차단 후 단계적 완화' 전략이 고위험 도메인에서 꽤 현명한 타협점이었다고 봅니다. 프론티어 모델 자체의 출시를 기약 없이 미루는 대신, 별도의 경량 분류기를 통해 하위 모델로 우회시키는 방식은 안전과 제품 속도를 모두 챙길 수 있는 현실적인 대안이기 때문입니다.

하지만 앞으로 도입될 공인 연구자 대상 전용 접근 경로가 제대로 안착할지는 지켜볼 일입니다. 전 세계 연구 기관의 신원을 어떻게 검증하고 계정 탈취나 우회 공격을 막을 것인지에 대한 운영 부담이 만만치 않습니다. 인증 절차가 지나치게 까다로워지면, 연구자들이 안전장치가 없는 오픈소스 모델로 발길을 돌릴 위험도 배제할 수 없습니다.