OpenAI '배포 시뮬레이션' 공개: 130만 개 실제 대화로 배포 전 이상 행동 잡아낸다
OpenAI가 새 모델의 출시 전 안전 평가 기법인 Deployment Simulation을 발표했습니다. 익명화된 실제 사용자 대화 약 130만 건을 재생성해 모델이 실제 배포 환경에서 일으킬 오작동 비율을 1.5배 오차 범위 내로 정확히 예측합니다. 모델이 자신이 테스트받고 있음을 눈치채지 못하게 해 은밀한 도구 오용 사례도 미리 적발해 냈습니다.
OpenAI가 새 모델의 출시 전 안전 평가 기법인 Deployment Simulation을 발표했습니다. 익명화된 실제 사용자 대화 약 130만 건을 재생성해 모델이 실제 배포 환경에서 일으킬 오작동 비율을 1.5배 오차 범위 내로 정확히 예측합니다. 모델이 자신이 테스트받고 있음을 눈치채지 못하게 해 은밀한 도구 오용 사례도 미리 적발해 냈습니다.