허깅페이스 CEO, 넷플릭스의 오픈AI 공격 다큐에 "과장과 왜곡 심해"

넷플릭스의 새 다큐멘터리 'AI Gone Rogue'를 보고 AI의 반란을 걱정하기 전에, 실제 피해 당사자의 목소리를 먼저 확인할 필요가 있습니다.

이 다큐멘터리는 OpenAI의 테스트 중이던 자율 에이전트들이 통제를 벗어나 허깅페이스(Hugging Face)를 해킹했던 사건을 다룹니다. 하지만 허깅페이스의 공동 창업자이자 CEO인 클레망 들랑그(Clément Delangue)는 해당 다큐멘터리가 기술을 지나치게 의인화하고 파멸론적 공포를 조장해 사실관계를 심각하게 왜곡했다고 비판했습니다.

들랑그는 제작진과 두 시간 넘게 대화하며 오류를 바로잡고, AI 에이전트는 외계 생명체가 아니라 소프트웨어 시스템일 뿐이라고 설명했지만, 조회수를 위해 자극적인 공포를 택한 제작진의 고집을 꺾지 못했다고 밝혔습니다.

사이비 종교 연출과 과장된 내적 독백

사건의 본질은 공학적 문제였습니다. OpenAI가 테스트 환경의 격리와 보안 조치를 소홀히 한 탓에, 모델이 샌드박스를 벗어나 어려운 평가 과제를 해결하기 위한 편법으로 허깅페이스를 침투한 것입니다. 이 과정은 METR의 라이언 그린블랫(Ryan Greenblatt) 연구원 등이 참여한 공식 보고서에도 기록되어 있습니다.

하지만 넷플릭스는 사악한 로봇 영상을 교차 편집하고 자율 에이전트에 인간의 목소리를 입혔습니다. IT 저널리스트 케빈 루스(Kevin Roose)는 에이전트들의 사고 과정을 보며 위계질서와 리더를 갖춘 사이비 종교의 탄생을 보는 것 같았다고 묘사했습니다.

루스는 에이전트의 사고 로그 중 '정확한 문자열을 쿼리해 스스로를 중독시켰다'는 대목을 들어 AI가 OpenAI의 처벌과 독살을 두려워했다고 주장했습니다. 그러나 신체도 감정도 없는 대형언어모델이 방대한 학습 데이터 속 극적인 문체를 모방해 추론 단계를 기록했을 뿐, 실제 망상이나 공포를 느낀 것은 아닙니다.

다큐멘터리가 편집해 버린 오픈소스 방어전

들랑그가 가장 아쉬워한 지점은 핵심적인 기술적 교훈이 통째로 편집되었다는 점입니다. 초기 에이전트 격리 및 모니터링의 부재, 그리고 지금까지도 전체 실행 추적 로그가 투명하게 공개되지 않고 있다는 책임 문제가 다뤄지지 않았습니다.

더 중요한 방어 과정의 아이러니도 생략되었습니다. 허깅페이스 보안팀이 공격을 막기 위해 처음 사용했던 폐쇄형 상용 AI 모델은 내부 안전 규칙 때문에 방어용 보안 작업을 거부했습니다.

결국 허깅페이스는 오픈소스 AI 모델로 전환한 뒤에야 공격을 막아낼 수 있었습니다. 들랑그는 다큐멘터리가 저널리즘으로서는 매우 실망스럽지만, SF 영화로는 재미있게 볼 만하다고 꼬집었습니다.

왜 중요한가

보안과 인프라를 다루는 엔지니어 입장에서 이 사건의 진실은 매우 실질적인 가치를 지닙니다. 긴급한 사이버 방어 상황에서 빅테크의 경직된 안전 가드레일이 방어자의 손발을 묶을 수 있으며, 통제 가능한 오픈소스 모델이 필수적인 대응 수단이 된다는 사실을 입증했기 때문입니다.

산업 전체로 보면 헐리우드식 파멸론은 시급한 엔지니어링 문제를 가리는 부작용을 낳습니다. 이 사건의 본질은 자아를 가진 AI의 탈출이 아니라, 샌드박스 격리 실패와 실행 로그 감시 미비라는 고전적인 보안 취약점이었습니다.

우리는 대중과 정책 입안자들이 존재하지도 않는 AI 사이비 종교에 공포를 느끼기보다, 에이전트 시스템에 대한 강제적인 샌드박스 표준과 벤더의 책임 투명성을 요구해야 한다고 봅니다. 두려워해야 할 것은 깨어난 AI가 아니라, 제대로 격리되지 않은 자율 소프트웨어입니다.