앤트로픽, 프롬프트 주입 방어 강화…크롬 확장 프로그램 베타 전환
앤트로픽이 브라우저 AI 에이전트의 프롬프트 주입 공격 방어 연구 결과를 발표했다. 클로드 오퍼스 4.5는 강화학습과 악성 분류기 개선을 통해 공격 성공률을 1%로 대폭 낮췄으며, 이에 따라 '클로드 포 크롬' 확장 프로그램을 Max 플랜 사용자 대상 베타로 전환했다. 에이전트가 안전하게 웹을 탐색하는 데 진전을 이뤘으나, 앤트로픽은 1%의 실패율도 여전히 실질적인 위험이라고 지적했다.