오픈AI, 위험 감지 시 35초 만에 작업 중단하는 '컨트롤 룸' 공개
오픈AI가 연구 인프라 전반의 모델 작업을 중앙에서 감시하고 통제하는 '컨트롤 룸(Control Room)'을 공개했다. 정렬 이상 모니터링 시스템과 연동되어 안전 문제가 발견될 경우 개입 결정 후 35초 이내에 모델 출력을 멈춘다. 자율형 모델 훈련과 배포 과정에서 인간의 통제력을 유지하기 위한 안전장치다.
오픈AI가 연구 인프라 전반의 모델 작업을 중앙에서 감시하고 통제하는 '컨트롤 룸(Control Room)'을 공개했다. 정렬 이상 모니터링 시스템과 연동되어 안전 문제가 발견될 경우 개입 결정 후 35초 이내에 모델 출력을 멈춘다. 자율형 모델 훈련과 배포 과정에서 인간의 통제력을 유지하기 위한 안전장치다.