OpenAI 안전 연구원 로지 퇴사, AGI 대비팀 해체 여파

OpenAI에서 AI 안전성과 거버넌스를 연구해 온 또 한 명의 베테랑 연구원이 회사를 떠났습니다.

약 3년 반 동안 OpenAI에서 정책 연구를 담당했던 로지 캠벨(Rosie Campbell)이 퇴사를 공식 발표했습니다. 앞서 마일스 브런디지(Miles Brundage)가 회사를 떠나고 그가 이끌던 ‘AGI 준비(AGI Readiness)’ 팀이 해체된 데 따른 결정입니다.

캠벨은 2021년 중반 OpenAI에 합류해 API 안전 정책과 프로세스 구축을 도왔습니다. 이후 정책 연구팀으로 자리를 옮겨 위험 역량 평가, 디지털 지각(digital sentience), 에이전트 시스템 거버넌스 등 최전선 정책 이슈를 연구해 왔습니다.

사내 슬랙에 남긴 뼈아픈 조언

캠벨은 퇴사 글을 통해 AGI 준비 팀이 해체된 이후 회사 내부에서 이러한 선제적 정책 연구를 지속할 공간을 찾을 수 없었다고 털어놓았습니다. 특히 지난 1년 동안 벌어진 회사의 변화와 초기 문화를 만들어온 수많은 동료들의 이탈을 보며 불안감을 느꼈다고 밝혔습니다.

그는 남아 있는 동료들에게 네 가지 조언을 남겼습니다. 첫째, 미션은 단순히 ‘AGI를 만드는 것’이 아니라 인류에게 유익하도록 보장하는 것임을 기억할 것. 둘째, 현재의 안전 접근법이 앞으로 등장할 훨씬 강력한 시스템에는 불충분할 수 있다는 점을 심각하게 받아들일 것. 셋째, 불편하고 마주하기 어렵더라도 진실을 말할 것. 넷째, 지금 만들고 있는 것은 단순한 IT 제품이 아니라는 엄중한 태도를 가질 것입니다.

캠벨은 당분간 휴식을 취하며 AI 평가 체계의 한계와 거버넌스 공백, 에이전트와의 협력 문제 등을 외부에서 탐색할 계획이라고 전했습니다.

왜 중요한가

이번 퇴사는 OpenAI 내부에서 장기적 안전성과 잠재적 위험을 대비하던 거버넌스 연구가 상용화 속도전에 밀려 설 자리를 잃고 있음을 분명하게 보여줍니다.

업계 전반으로 보면, 최전선 모델의 내부 위험을 가장 잘 아는 전문 인력들이 외부 싱크탱크, 규제 기관, 학계로 대거 이동하는 흐름이 더 뚜렷해졌습니다. 내부 견제가 무력화된 상황에서 이들이 외부에서 구축할 독립적인 정책과 평가 프레임워크가 향후 빅테크를 통제할 핵심 수단이 될 가능성이 큽니다.

우리는 캠벨이 지적한 ‘단순한 제품 출시처럼 접근해서는 안 된다’는 경고가 현재 AI 생태계의 가장 아픈 지점을 찔렀다고 봅니다. 자율형 에이전트와 훨씬 강력한 모델의 등장이 임박한 시점에, 선제적으로 위험을 검증하던 팀을 해체하고 상업적 경쟁에만 몰두하는 것은 안전 거버넌스 측면에서 매우 큰 위험을 감수하는 행보로 보입니다.