오픈AI, 안전·보안 위원회 신설…차세대 모델 학습 착수도 공개

차세대 프런티어 모델 훈련 착수와 함께, OpenAI가 이사회 산하에 새로운 안전 관리 기구를 출범시켰습니다.

OpenAI 이사회는 자사의 모든 프로젝트와 운영 전반의 중대한 안전 및 보안 결정에 대해 이사회 전체에 권고안을 제시하는 '안전 및 보안 위원회(Safety and Security Committee)'를 구성했다고 발표했습니다. 이와 함께 AGI를 향한 다음 단계 역량을 보여줄 차세대 프런티어 모델 훈련을 최근 시작했다고 밝혔습니다.

90일간의 프로세스 점검과 안보 전문가 영입

이번 위원회는 Bret Taylor 이사회 의장을 필두로 Adam D’Angelo, Nicole Seligman, 그리고 Sam Altman CEO가 이끕니다. 이후 이사회에 합류한 Paul M. Nakasone 전 미국 육군 대장도 위원회 멤버로 추가되었습니다.

사내 기술 및 정책 핵심 인력도 대거 포함되었습니다. 대비팀 책임자 Aleksander Madry, 안전 시스템 책임자 Lilian Weng, 정렬 과학 책임자 John Schulman, 보안 책임자 Matt Knight, 수석 과학자 Jakub Pachocki가 참여합니다.

여기에 전직 사이버 안보 당국자인 Rob Joyce와 John Carlin 등 외부 전문가의 자문도 병행됩니다. 위원회의 첫 과제는 향후 90일 동안 기존 안전 프로세스와 보호 장치를 평가하고 보완하는 것이며, 이사회의 검토를 거쳐 채택된 권고안을 대외에 공개할 예정입니다.

왜 중요한가

개발자와 AI 업계 관점에서 가장 눈에 띄는 대목은 차기 주력 모델의 훈련이 이미 시작되었다는 공식 확인입니다. 향후 몇 달간 안전 검토 결과가 어떻게 나오느냐에 따라 차세대 모델의 출시 일정과 기능 제한 수위가 결정될 가능성이 큽니다.

국가 안보 및 사이버 보안 분야의 거물들을 끌어들인 것은 규제 당국과 정치권을 의식한 영리한 전략입니다. AI 모델의 고도화가 초래할 국가 안보 차원의 위협 논란을 선제적으로 차단하려는 계산이 엿보입니다.

그러나 위원회의 독립성에 대해서는 여전히 의문이 남습니다. 상용화와 성장을 최우선으로 이끄는 Sam Altman CEO 본인이 안전 심사 위원으로 참여하고 있어, '선수가 심판을 겸하는' 구조적 한계가 존재하기 때문입니다. 과연 이 조직이 상업적 출시 압박 속에서도 실질적인 제동 장치 역할을 할 수 있을지는 90일 후 공개될 권고안의 구체성에 달려 있습니다.