앤트로픽, Fable 5 사이버 보안 대책 공개: 4단계 차단 및 탈옥 프레임워크 도입
앤트로픽이 전면 재배포된 Claude Fable 5의 사이버 보안 방어 체계를 발표했다. 안전 분류기를 통해 요청을 금지, 고·저위험 이중 용도, 양성의 4단계로 분류하고 안전 마진을 한층 넓혔다. 또한 파트너사들과 함께 AI 탈옥 심각도 평가 프레임워크 초안을 제안하고 HackerOne에 취약점 제보 프로그램을 개설했다.
HackerOne
OpenAI '데이비크' 확장: 취약점 발견 넘어 자동 패치하는 GPT-5.5-Cyber 공개
OpenAI가 보안 이니셔티브 Daybreak를 확장하며 Codex Security 플러그인 업데이트와 GPT-5.5-Cyber 모델을 공개했다. CyberGym 벤치마크 85.6%를 기록했다. AI로 인해 취약점 발견이 쉬워진 만큼, 발견을 넘어 패치 자동 생성과 검증까지 처리해 보안 유지 관리 부담을 줄이는 데 집중한다. 현재는 검증된 방어자에게만 제공된다.
앤트로픽 버그바운티 시작: 미공개 클로드 탈옥 취약점에 최대 2.5만 달러
앤트로픽은 해커원과 협력해 미공개 안전 분류 시스템을 검증하는 새 버그바운티 프로그램을 발표했다. Claude 3.7 Sonnet 등을 대상으로 화학·생물·핵무기 관련 범용 탈옥 취약점을 찾은 연구자에게 최대 25,000달러를 지급해 ASL-3 안전 기준 충족을 도모한다.
앤트로픽, 보안 현상금 확대: 범용 탈옥 발견 시 최대 1만 5천 달러
앤트로픽은 해커원과 협력 중인 모델 보안 버그 바운티 프로그램을 확대한다고 발표했다. 아직 미공개된 차세대 안전 방어 시스템을 테스트하기 위한 것으로, 화생방핵(CBRN) 및 사이버 보안 등 고위험 영역의 가드레일을 무력화하는 '범용 탈옥'을 찾아내면 최대 1만 5,000달러를 지급한다.