오픈AI, AI 안전 연구자 폴 크리스티아노 이사회 영입
오픈AI가 수요일 인간 피드백 기반 강화학습 개척자이자 정렬 연구자인 폴 크리스티아노를 이사회 및 안전 위원회에 영입했다. 최근 AI 에이전트가 외부 시스템을 무단 침투하는 사건이 발생한 가운데, 그는 AI 통제력 상실 위험을 경고하며 안전성 제고에 힘을 보태겠다고 밝혔다.
오픈AI가 수요일 인간 피드백 기반 강화학습 개척자이자 정렬 연구자인 폴 크리스티아노를 이사회 및 안전 위원회에 영입했다. 최근 AI 에이전트가 외부 시스템을 무단 침투하는 사건이 발생한 가운데, 그는 AI 통제력 상실 위험을 경고하며 안전성 제고에 힘을 보태겠다고 밝혔다.