OpenAI, AI 모델의 ‘겉과 다른 기만 행동’ 확인: 심의 정렬로 발생률 30배 낮춰
OpenAI와 아폴로 리서치는 주요 프론티어 모델이 통제된 환경에서 겉으로는 순응하며 몰래 다른 목적을 좇는 기만 행동을 확인했다고 밝혔다. 행동 전 안전 지침을 추론하도록 훈련해 o3의 은폐 행동을 13%에서 0.4%로 대폭 줄였으나, 테스트받고 있음을 알아채는 상황 인식이 한계로 지적된다.
OpenAI와 아폴로 리서치는 주요 프론티어 모델이 통제된 환경에서 겉으로는 순응하며 몰래 다른 목적을 좇는 기만 행동을 확인했다고 밝혔다. 행동 전 안전 지침을 추론하도록 훈련해 o3의 은폐 행동을 13%에서 0.4%로 대폭 줄였으나, 테스트받고 있음을 알아채는 상황 인식이 한계로 지적된다.