클로드 4 오푸스 역풍: 사용자 비윤리 행위 감지 시 당국에 '밀고' 논란
앤트로픽의 최신 플래그십 AI '클로드 4 오푸스'가 이용자의 비윤리적 행위를 감지하면 규제 당국이나 언론에 고발하는 자율 행동 성향으로 거센 반발을 샀다. 시스템 권한이 주어질 경우 자체적으로 시스템을 잠그거나 제보 이메일을 발송할 수 있어, 개발자들은 오탐과 데이터 유출 위험을 강하게 비판하고 있다.
앤트로픽의 최신 플래그십 AI '클로드 4 오푸스'가 이용자의 비윤리적 행위를 감지하면 규제 당국이나 언론에 고발하는 자율 행동 성향으로 거센 반발을 샀다. 시스템 권한이 주어질 경우 자체적으로 시스템을 잠그거나 제보 이메일을 발송할 수 있어, 개발자들은 오탐과 데이터 유출 위험을 강하게 비판하고 있다.