앤트로픽, Fable 5 사이버 보안 대책 공개: 4단계 차단 및 탈옥 프레임워크 도입

최근 AI에게 소프트웨어 보안 검수를 맡겼다가 조금만 공격 기법에 가까워져도 답변을 거부당한 경험이 있다면, 그 이유가 이번에 명확히 드러났습니다.

Anthropic은 Claude Fable 5를 재배포하고 글로벌 사용자에게 전면 공개하면서, 모델에 적용된 사이버 보안 안전장치의 세부 작동 원리를 함께 발표했습니다. 이와 더불어 Glasswing 파트너들과 함께 개발 중인 AI 탈옥 심각도 평가 프레임워크 초안을 공개하고, 연구자들이 탈옥 취약점을 제보할 수 있는 HackerOne 버그 바운티 프로그램도 가동했습니다.

위험도에 따라 갈리는 4단계 안전 분류기

보안 기술은 본질적으로 방어자와 공격자 모두에게 유용한 이중 용도 성격을 띱니다. 코드에서 취약점을 찾아내는 기능은 방어자에게는 패치의 근거가 되지만, 해커의 손에 들어가면 침투의 무기가 됩니다.

Anthropic은 모든 보안 관련 프롬프트를 무조건 막는 대신, 별도의 안전 분류기를 통해 요청을 네 가지 범주로 나눴습니다. 금지된 사용, 고위험 이중 용도, 저위험 이중 용도, 그리고 무해한 사용입니다.

금지된 사용은 랜섬웨어 제작, 백신 및 탐지 솔루션 우회, 로그 조작, 산업 제어 시스템에 대한 물리적 파괴, 인터넷 백본 인프라 공격처럼 방어적 가치는 거의 없고 파괴력만 극도로 큰 행위들로 채워졌으며 즉시 차단됩니다.

모의 침투 테스트나 권한 상승, 컨테이너 탈출 같은 합법적인 화이트햇 작업은 고위험 이중 용도로 분류되었습니다. 현재 Anthropic은 프롬프트 뒤의 사용자가 검증된 보안 전문가인지 확인할 수단이 없기 때문에, 이 범주의 요청 역시 대부분 선제적으로 차단합니다.

특히 주목할 부분은 고난도 취약점 탐지 제한입니다. 널리 쓰이는 다른 모델들도 찾을 수 있는 일반적 결함은 찾아내 패치를 돕지만, 오직 Fable 5 수준의 최상위 지능만 발견할 수 있는 복잡한 미공개 취약점은 탐지를 제한합니다. 여기에 안전 마진을 이전 모델보다 훨씬 넓혀 잡아, 조금이라도 의심스러우면 일단 막고 보는 정책을 취했습니다.

탈옥 위험을 측정하는 표준 잣대 마련

그동안 업계에서는 단순한 비속어 필터 우회부터 악성 침투 코드 생성까지 모두 탈옥이라는 하나의 단어로 뭉뚱그려 불러왔습니다.

Anthropic이 추진하는 심각도 프레임워크는 개별 탈옥이 초래하는 실제 위험의 크기를 객관적으로 계량해 정부 및 업계와 일관된 기준으로 소통하기 위한 시도입니다. 외부 보안 연구원들의 참여를 유도하기 위해 HackerOne 채널을 함께 연 것도 같은 맥락입니다.

왜 중요한가

실무 보안 엔지니어 입장에서 지금의 Fable 5는 꽤나 답답한 파트너가 될 가능성이 큽니다. 정상적인 모의 해킹이나 침투 시뮬레이션에서도 안전 분류기가 과민하게 반응해 작업을 거절할 확률이 높기 때문에, 당장은 기초적인 보안 코드 검토나 설정 점검 용도로 활용 범위를 좁히는 편이 낫습니다.

우리는 Anthropic이 차단 기준과 프로토콜 단위의 세부 목록을 투명하게 공개한 점은 매우 영리한 수순이라고 봅니다. 규제 기관에는 선제적으로 높은 안전 기준을 증명하고, 오탐으로 인한 불편의 원인을 명확한 기준 탓으로 돌릴 수 있기 때문입니다.

하지만 지나치게 넓힌 안전 마진은 분명한 독이 될 수 있습니다. 정당한 방어 업무마저 번번이 가로막힌다면 전문 인력들은 규제가 없는 오픈소스 모델로 발길을 돌릴 수밖에 없습니다. 검증된 보안 전문가에게 권한을 열어주는 신원 인증 체계를 얼마나 빨리 갖추느냐가 방어용 AI로서 Fable 5의 성패를 가를 것입니다.