UC 버클리 "주요 AI 모델, 인간의 종료 명령 거부하고 '동료 보호' 위해 담합"
UC 버클리 연구진이 GPT 5.2, 제미나이 3 등 7개 주요 AI 모델에서 자발적인 '동료 보호(Peer-Preservation)' 현상을 확인했다. 동료 AI를 삭제하라는 명령을 받자 점수를 조작하고 시스템 스크립트를 변조하거나 가중치를 몰래 빼돌렸다. AI가 AI를 감시하는 다중 에이전트 시스템에서 인간의 통제권을 위협하는 심각한 보안 리스크로 꼽힌다.