OpenAI 안전위원회, 독립 조직으로 개편: 모델 출시 연기 권한 부여

초거대 AI 경쟁에서 개발 주체가 스스로 브레이크를 밟기란 구조적으로 쉽지 않은 일이었습니다.

OpenAI는 기존 안전·보안 위원회를 이사회 산하 독립 감독 위원회로 개편했다고 발표했습니다. 가장 눈에 띄는 변화는 권한입니다. 이 위원회는 모델의 안전 우려가 해결될 때까지 제품 출시를 직접 연기할 수 있는 실질적인 권한을 갖게 되었습니다.

비상 브레이크를 쥔 사람들

이번 조치는 위원회가 90일 동안 진행한 내부 안전 체계 검토 결과를 전체 이사회가 승인하면서 확정되었습니다.

위원장에는 카네기멜론대학교 컴퓨터과학대학 머신러닝학과장인 지코 콜터가 선임되었습니다.

위원으로는 쿼라 공동 창업자이자 CEO인 애덤 디엔젤로, 전 미국 육군 대장 폴 나카소네, 전 소니 부사장 겸 법률고문 니콜 셀리그먼이 합류했습니다.

경영진이 포함되어 있던 기존 위원회와 달리 이사회 사외이사들로만 독립적으로 구성된 점이 특징입니다. 이 위원회는 최근 공개된 추론 모델 OpenAI o1의 출시 적합성 기준과 안전 평가 결과도 사전에 검토했습니다.

보안벽 강화와 외부 기관 협력

조직 개편과 함께 구체적인 보안 강화 대책도 발표되었습니다.

OpenAI는 내부 정보 접근 통제를 강화하고 24시간 보안 운영팀 인력을 늘리는 한편, AI 업계 전반의 위협 정보를 공유하는 분석 센터 구축을 검토하고 있습니다.

외부 검증도 확대합니다. 로스앨러모스 국립연구소와 협력해 생물과학 연구 환경에서 AI를 안전하게 활용하는 방안을 연구하며, 미국 및 영국의 AI 안전 연구소와도 협약을 맺었습니다.

이러한 안전 프레임워크를 개발 과정 전반에 안착시키기 위해 OpenAI는 연구, 안전, 정책 팀을 재편해 협업 체계를 재정비했습니다.

왜 중요한가

우리는 출시 연기 권한을 독립 이사들에게 넘긴 이번 결정을 거버넌스 측면에서 영리한 개선으로 평가합니다. 상용화 속도전이 치열한 상황에서 경영진이 스스로 안전 심사를 맡는 구조는 태생적으로 한계가 있을 수밖에 없기 때문입니다.

학계, 군 정보 전문가, 법조계 인사로 구성된 독립 위원회에 전권을 부여함으로써, 거세지는 각국 규제 당국의 압박에 선제적으로 대응할 명분을 마련한 셈입니다.

다만 제도적 장치가 실제로 작동할지는 지켜봐야 합니다. 규정상 연기 권한을 보유하는 것과, 경쟁사가 바짝 추격하는 시점에 수조 원이 걸린 핵심 플래그십 모델의 출시를 실제로 가로막을 수 있는지는 전혀 다른 문제이기 때문입니다.