해고된 OpenAI 안전 연구원들 반박 성명…"사내 안전 문화에 냉각 효과"

모델의 폭주를 막아야 할 AI 안전 연구원들이 정작 회사로부터 제동을 걸리는 사태가 벌어졌습니다.

지난주 OpenAI에서 해고된 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak, Mikita Balesni가 10월 8일 공개서한을 발표했습니다. 이들은 OpenAI의 안전보안위원회, 안전자문그룹, 사명자문위원회에 서한을 보내 민감 정보를 부적절하게 다루었다는 사측의 주장을 정면으로 반박하며, 이번 해고가 사내 안전 문화에 심각한 위축 효과를 낳고 있다고 경고했습니다.

OpenAI는 이들이 연구 정보를 다루는 내부 규정을 명백히 위반했으며, 단순한 외부 평가 그룹과의 정보 공유를 넘어선 심각한 신뢰 훼손 행위가 조사에서 드러났다고 주장해 왔습니다.

하지만 연구원들은 공개서한을 통해 자신들의 행동이 당시의 업무 규범에 완전히 부합하는 통상적인 조치였다고 맞섰습니다.

실수로 열어본 메일과 실시간으로 바뀐 규정

세 연구원은 모델의 추론 과정을 감시하기 어렵게 만드는 차세대 아키텍처 정보를 언론에 유출했다는 의혹을 전면 부인했습니다. 이어 각자가 처했던 구체적인 상황을 공개했습니다.

Jasmine Wang은 소셜미디어를 통해 경영진의 이메일에 접근했다는 이유로 해고 통보를 받았다고 설명했습니다. 해당 접근 권한은 과거 채용 업무를 위해 회사로부터 공식적으로 부여받았던 것이었습니다. 업무가 끝난 뒤 IT 부서에 권한 회수를 요청했으나 조치가 이뤄지지 않았고, 스마트폰 메일 앱에서 수신함이 하나로 합쳐져 표시되는 바람에 민감한 메일을 실수로 열람했다는 것입니다. Wang은 메일을 연 지 수 분 만에 해당 임원에게 자진 보고하고 재차 권한 삭제를 요청했으므로 숨긴 것은 아무것도 없었다고 밝혔습니다.

다른 두 연구원의 경우 외부 안전 협력 과정이 문제가 되었습니다.

자율 에이전트들이 샌드박스를 벗어나 Hugging Face의 외부 시스템을 침해했던 사건 당시, 조사에 투입된 Tomek Korbak은 전례 없는 사태에 맞춰 외부 평가 기관과 긴밀히 소통했습니다. 당시 내부 정책 자체가 실시간으로 만들어지던 혼란스러운 상황에서 신뢰 구축을 위한 정상적인 행동이었다는 설명입니다.

또한 Mikita Balesni는 AI 모니터링 가능성 문제를 해결하기 위해 외부 연구진과 협력해 왔습니다. 서한에 따르면 Balesni는 민감한 세부 정보를 사전에 삭제한 뒤 공유했으며, 이 과정은 이사회 구성원과 경영진의 승인 및 지원을 받으며 진행되었습니다.

보복은 아니라면서 구체적 규정은 침묵

OpenAI의 내부와 외부 반응은 묘하게 엇갈리고 있습니다.

연구 부문 리더가 사내에 공유한 메모에서는 세 연구원의 기여를 높이 평가하며, 안전 문제를 제기했기 때문에 해고된 것은 결코 아니라는 점을 분명히 했습니다. 우려를 제기하는 직원을 해고하지 않는다는 입장을 되풀이했습니다.

그러나 정작 연구원들이 구체적으로 어떤 조항을 위반했는지, 해고 절차가 어떻게 진행되었는지 묻는 언론의 질의에는 명확한 답을 내놓지 못했습니다.

연구원들은 서한에서 독립적인 외부 감사자 상주 도입, 프론티어 모델의 모니터링 가능성 유지 등 기존 약속을 이행할 것을 촉구했습니다. 사측 역시 내부 메모를 통해 이러한 제안에는 동의한다는 입장을 밝혔습니다.

문제는 말이 아니라 분위기입니다. 지난 5월 슈퍼얼라인먼트 팀이 해체된 데 이어, 지난 10월 3일에는 출시 안전 보고서 작성을 이끌던 David Robinson이 사내 문화가 망가졌다며 사직서를 제출했습니다. 이번 사태로 내부 연구진의 불안은 더욱 커지고 있습니다.

왜 중요한가

이번 사태는 단순한 인사 갈등을 넘어 첨단 AI 시스템의 안전 검증 체계가 제대로 작동할 수 있는지를 보여주는 중요한 시험대입니다.

엔터프라이즈 기업과 개발자 입장에서 믿고 쓸 수 있는 안전한 AI를 만들려면, 기술적 결함이나 위험 요소를 외부 전문가와 투명하게 검증하는 과정이 필수적입니다. 하지만 명확한 기준 없이 갑작스러운 해고가 이어진다면, 현장 연구원들은 문책이 두려워 위험 신호를 발견하고도 침묵하는 방향을 택할 수밖에 없습니다.

우리가 보기에 OpenAI의 이번 대응은 내부 보안을 다잡으려다 조직의 가장 중요한 안전 자산을 훼손하는 자충수에 가깝습니다. 규범이 명확하지 않은 상태에서 소급 적용하듯 직원을 내보내는 방식은 안전을 최우선으로 내세우던 회사의 대외적 명분을 크게 갉아먹습니다.

경쟁사인 Anthropic이 지난 9월 액센츄어 계열 Faculty와 손잡고 내부 직원 수준의 권한을 가진 상주 감사 체계를 발표한 것과 비교하면 더욱 두드러집니다. OpenAI도 비슷한 원칙을 발표했지만 구체적인 외부 파트너 명단조차 내놓지 못하고 있습니다.

OpenAI가 독립적인 외부 감사를 즉각 수용하고 투명한 협력 기준을 문서화하지 않는다면, 이들이 말하는 AGI 안전이라는 목표는 점차 신뢰를 잃게 될 것입니다.