OpenAI 신뢰·안전 책임자 사임: ChatGPT 출시 후 격무, CTO가 임시 겸임

대형 소셜미디어의 유해 콘텐츠를 걸러내는 일도 극심한 격무로 악명 높지만, 초 단위로 새로운 콘텐츠를 뿜어내는 생성형 AI의 안전망을 짜는 일은 차원이 다른 부담이었던 것으로 보인다.

OpenAI의 신뢰 및 안전(Trust and Safety) 총괄 Dave Willner가 자리에서 물러났다. 그는 링크드인 게시물을 통해 정규직 직책을 사임하고 자문 역할로 전환한다고 밝혔다. 어린 가족과 더 많은 시간을 보내기 위한 결정이며, ChatGPT 출시 이후 업무 강도가 지나치게 높아져 일과 가정의 균형을 유지하기가 불가능에 가까워졌다고 털어놓았다.

OpenAI는 성명을 내고 후임자를 찾는 동안 Mira Murati 최고기술책임자(CTO)가 해당 팀을 임시로 직접 이끌 것이라고 발표했다. Willner는 올해 말까지 자문역을 맡아 인수인계를 돕는다.

페이스북 규정 만든 베테랑, DALL-E 방어선 구축하다

Willner는 OpenAI에 합류하기 전 페이스북과 에어비앤비에서 신뢰 및 안전 팀을 이끌었던 실리콘밸리의 대표적인 콘텐츠 규제 베테랑이다.

그는 페이스북 초기 시절 현재 메타의 콘텐츠 관리 기준이 된 최초의 커뮤니티 가이드라인을 작성하는 데 핵심적인 역할을 했다. 2009년에는 홀로코스트 부정 게시물 처리 논란 당시 혐오 발언이 직접적인 신체적 위해와 같지 않다며 삭제에 반대하는 입장을 취하기도 했으나, 2019년 페이스북을 떠난 뒤에는 정치인에게 콘텐츠 검열 예외를 두려는 조치를 비판하는 등 관점을 넓혀왔다.

OpenAI는 약 1년 반 전 그를 영입했는데, 본래 목적은 이미지 생성기 DALL-E가 아동 성착취물 제작 등 위험한 용도로 악용되는 것을 막기 위한 정책을 설계하는 일이었다. 하지만 곧바로 ChatGPT가 전 세계를 뒤흔들며 그가 책임져야 할 안전의 범위는 걷잡을 수 없이 커졌다.

백악관 서약식 당일에 터진 사임

사임 시점은 묘하게도 AI 규제 역사에서 가장 상징적인 날과 겹쳤다.

공교롭게도 사임 소식이 전해진 당일, OpenAI의 Greg Brockman 사장은 백악관에서 Anthropic, Google, Inflection, Microsoft, Meta, Amazon 경영진과 함께 바이든 행정부의 AI 행정명령에 앞서 자발적 안전 서약에 동의할 예정이었다. 유럽을 필두로 전 세계적인 AI 규제 압박이 최고조에 달한 시점이었다.

겉으로는 정부에 안전을 철저히 지키겠다고 공언하는 자리에서, 정작 회사 내부의 안전 방파제를 쌓아오던 실무 수장이 번아웃으로 물러난 셈이다.

OpenAI는 공식 성명에서 향후 안전한 기술 활용과 확장을 보장하기 위해 시스템 설계와 개발, 구현에 집중할 수 있는 기술적 역량을 갖춘 리더를 새 총괄로 찾고 있다고 밝혔다.

왜 중요한가

Dave Willner의 퇴장은 소셜미디어 시대의 유해 콘텐츠 통제 방식이 생성형 AI 시대에는 더 이상 통하지 않는다는 사실을 극명하게 보여준다고 우리는 본다.

페이스북 시절의 신뢰 및 안전은 사람이 올린 글이나 사진을 사후 검토하고 정책에 맞춰 차단하는 방식이었다. 반면 생성형 AI는 기계가 스스로 실시간 유해물을 생성해내기 때문에, 정책 문서나 사람의 손길만으로는 막을 수 없다. 결국 모델의 학습 단계와 추론 아키텍처 수준에서 엔지니어링으로 안전장치를 심어야 한다.

OpenAI가 후임 조건으로 기술적 역량을 명시한 것도 이 같은 패러다임 변화를 방증한다. 스탠퍼드 인터넷 관측소 등 학계 전문가들이 생성형 AI의 악용 문제로 조만간 심각한 위기가 닥칠 것이라 경고하는 가운데, 안전 총괄의 공백은 결코 가볍지 않다. 규제 당국의 감시가 날카로워지는 지금, 정책 중심에서 엔지니어링 중심으로 방어벽을 얼마나 빠르고 단단하게 재구축할 수 있을지가 OpenAI의 최대 시험대가 될 것으로 보인다.