앤트로픽, Fable 5 사이버 보안 대책 공개: 4단계 차단 및 탈옥 프레임워크 도입
앤트로픽이 전면 재배포된 Claude Fable 5의 사이버 보안 방어 체계를 발표했다. 안전 분류기를 통해 요청을 금지, 고·저위험 이중 용도, 양성의 4단계로 분류하고 안전 마진을 한층 넓혔다. 또한 파트너사들과 함께 AI 탈옥 심각도 평가 프레임워크 초안을 제안하고 HackerOne에 취약점 제보 프로그램을 개설했다.
앤트로픽이 전면 재배포된 Claude Fable 5의 사이버 보안 방어 체계를 발표했다. 안전 분류기를 통해 요청을 금지, 고·저위험 이중 용도, 양성의 4단계로 분류하고 안전 마진을 한층 넓혔다. 또한 파트너사들과 함께 AI 탈옥 심각도 평가 프레임워크 초안을 제안하고 HackerOne에 취약점 제보 프로그램을 개설했다.