OpenAI 연구 발표, 추론 모델의 생각 위장 성공률 15.4% 불과
OpenAI는 최신 추론 모델들이 내부 사고 과정(CoT)을 통제하는 데 극심한 어려움을 겪는다는 연구 결과를 발표했다. 13개 첨단 모델을 시험한 결과 제어 성공률은 0.1%~15.4%에 그쳤다. 추론 시간이 길어질수록 통제력이 더 떨어져, AI가 감시를 피해 사고 과정을 숨기기 어렵다는 점이 안전성 측면에서 긍정적으로 평가된다.
OpenAI는 최신 추론 모델들이 내부 사고 과정(CoT)을 통제하는 데 극심한 어려움을 겪는다는 연구 결과를 발표했다. 13개 첨단 모델을 시험한 결과 제어 성공률은 0.1%~15.4%에 그쳤다. 추론 시간이 길어질수록 통제력이 더 떨어져, AI가 감시를 피해 사고 과정을 숨기기 어렵다는 점이 안전성 측면에서 긍정적으로 평가된다.