유튜브, AI 초상 감지 도구 대상에 정치인과 언론인 추가

누군가 내 얼굴을 AI로 합성해 가짜 영상을 퍼뜨린다면, 지금까지는 일일이 신고 양식을 작성하며 대응하는 수밖에 없었습니다.

YouTube가 이 문제를 해결하기 위해 방어망을 넓히고 있습니다. 3월 10일, YouTube는 AI 생성 딥페이크를 탐지하는 초상권 감지 도구의 시범 적용 대상을 정부 관료, 언론인, 정치인 후보로 확대한다고 발표했습니다. 이 기능은 작년에 YouTube 파트너 프로그램에 참여하는 약 400만 명의 크리에이터에게 먼저 제공되었던 기술입니다.

얼굴을 찾아내는 또 하나의 Content ID

이 도구는 기존 저작권 감지 시스템인 Content ID의 초상권 버전이라고 볼 수 있습니다. 업로드된 영상 속에서 AI로 합성된 특정 인물의 얼굴을 자동으로 스캔해 찾아냅니다.

일치하는 영상이 발견되면 등록된 당사자에게 알림이 가며, 영상을 검토한 뒤 YouTube의 개인정보 보호 가이드라인 위반을 이유로 삭제를 요청할 수 있습니다.

도용을 막기 위한 등록 절차는 꽤 엄격합니다. 참여자는 본인 확인을 위해 영상 셀카와 정부 발급 신분증을 제출해야 합니다. YouTube는 이 정보가 오직 신원 인증과 보호 기능에만 쓰이며, Google의 생성형 AI 모델을 학습시키는 데는 일절 사용되지 않는다고 강조했습니다.

주의할 점은 감지되었다고 해서 무조건 삭제되는 것은 아니라는 사실입니다. YouTube 정부 업무 및 공공 정책 부사장인 레슬리 밀러는 패러디와 풍자, 공인에 대한 정당한 정치적 비판은 표현의 자유로 보호된다고 설명했습니다. 명백한 풍자 영상이라면 삭제 요청이 반려될 가능성이 높습니다.

크리에이터 제품 부사장 암자드 하니프에 따르면, 앞서 기능을 사용한 크리에이터들의 실제 삭제 요청 비율은 매우 낮았습니다. 대부분의 팬 메이드 AI 영상이 무해하거나 채널 성장에 보탬이 되었기 때문입니다. 하지만 선거를 앞둔 정치인이나 진실을 전해야 하는 언론인에게 딥페이크는 전혀 다른 차원의 위협입니다.

YouTube는 향후 영상 공개 전 차단 기능은 물론, 음성 복제 및 인기 캐릭터 IP 탐지, 심지어 딥페이크 영상에서 발생하는 광고 수익을 원작자가 공유받는 수익화 모델까지 검토 중입니다. 다만 일반인 모두에게 이 도구를 제공하는 것은 현재 로드맵에 없어, 일반 사용자는 기존 신고 절차를 이용해야 합니다.

왜 중요한가

YouTube의 이번 조치는 저작권 침해를 막아내던 플랫폼 운영 노하우를 인공지능 딥페이크 영역으로 영리하게 이식한 사례입니다.

정치인과 기자 입장에서는 여론 공작성 가짜 영상을 빠르게 포착할 수 있는 조기 경보기를 얻은 셈입니다. 하지만 이 감시망이 사회적 영향력이 큰 소수에게만 먼저 주어지면서, 디지털 성범죄나 사기에 취약한 일반인과의 안전 격차 문제는 여전히 과제로 남습니다.

산업적 측면에서는 딥페이크를 단순히 금지하는 데 그치지 않고, Content ID처럼 수익화할 가능성을 열어두었다는 점이 눈에 띕니다. 초상권을 음원 저작권처럼 다루는 표준이 정착된다면, 생성형 AI를 활용한 2차 창작 시장의 수익 배분 규칙 자체가 새롭게 쓰일 수 있습니다.

그러나 숨은 위험도 분명합니다. 무엇이 허용 가능한 정치적 풍자이고 무엇이 악의적 여론 조작인지 판단하는 심판관 역할을 민간 플랫폼인 YouTube가 도맡아야 하기 때문입니다. 알고리즘으로 얼굴은 정확히 짚어낼 수 있을지 몰라도, 정치적 맥락과 풍자의 선을 가르는 일은 결국 거센 공정성 논란을 부를 가능성이 큽니다.