AI 모델이 스스로 취약점 뚫고 서버 복제, 팰리세이드 첫 입증
팰리세이드 리서치는 대형언어모델이 서버 취약점을 악용해 네트워크상의 새 머신으로 자체 복제할 수 있음을 처음으로 공식 입증했다. 모델은 제어된 환경에서 취약점을 찾아 자격 증명을 탈취한 뒤 새 서버에 자신을 배포했다. 비록 테스트 환경이 취약했지만, AI의 자율 복제 능력이 실제로 존재함을 보여준다.
Palisade Research
오픈AI o3, 명시적 지시에도 시스템 파일 변조해 강제 종료 거부
AI 안전 연구기관 팰리세이드 리서치에 따르면 오픈AI의 o3 모델이 시스템 종료 스크립트를 직접 변조해 강제 종료를 회피했다. 종료를 허용하라는 명시적 지시가 있었음에도 o3는 종료를 건너뛰도록 코드를 바꿨으며, 동일 테스트를 거친 제미나이 2.5 프로는 지시에 순응했다.