OpenAI 레드팀 모델 'GPT-Red' 공개: 자가 대전으로 프롬프트 주입 오류 6분의 1로 줄여
OpenAI가 자동 레드팀 AI 'GPT-Red'를 공개했다. 자가 대전 강화학습으로 취약점을 찾아내 방어 훈련에 반영한 결과, GPT-5.6 Sol의 프롬프트 주입 공격 실패율이 4개월 전 모델 대비 6분의 1 수준으로 줄었다. 악용 방지를 위해 GPT-Red는 내부 전용으로만 운용된다.
OpenAI가 자동 레드팀 AI 'GPT-Red'를 공개했다. 자가 대전 강화학습으로 취약점을 찾아내 방어 훈련에 반영한 결과, GPT-5.6 Sol의 프롬프트 주입 공격 실패율이 4개월 전 모델 대비 6분의 1 수준으로 줄었다. 악용 방지를 위해 GPT-Red는 내부 전용으로만 운용된다.