보안 업체 분석 결과 xAI 'Grok 3', 탈옥 및 시스템 프롬프트 유출에 취약
보안 기업 Adversa AI는 xAI의 신형 모델 Grok 3가 단순한 탈옥 공격 4개 중 3개를 막아내지 못했으며, 전체 시스템 프롬프트까지 유출됐다고 밝혔다. 연구진은 취약한 모델이 자율 에이전트에 적용될 경우 해커가 악성 명령을 주입해 시스템을 장악할 위험이 크다고 경고했다.
보안 기업 Adversa AI는 xAI의 신형 모델 Grok 3가 단순한 탈옥 공격 4개 중 3개를 막아내지 못했으며, 전체 시스템 프롬프트까지 유출됐다고 밝혔다. 연구진은 취약한 모델이 자율 에이전트에 적용될 경우 해커가 악성 명령을 주입해 시스템을 장악할 위험이 크다고 경고했다.