유튜브, 사실적인 AI 생성 영상 라벨 부착 의무화…미표시 땐 수익 창출 박탈

현실과 똑같이 생긴 도시가 토네이도에 휩쓸리거나, 유명인이 하지도 않은 말을 그럴듯하게 내뱉는 영상을 마주했을 때 우리는 어떻게 진짜와 가짜를 구별해야 할까요?

생성형 AI의 발전으로 누구나 손쉽게 진짜 같은 가짜 영상을 만들 수 있게 되자, 유튜브가 결국 칼을 빼들었습니다.

유튜브는 크리에이터 스튜디오에 새로운 도구를 도입하고, AI나 합성 기술로 제작된 사실적인 콘텐츠에 대해 크리에이터가 직접 시청자에게 라벨을 붙여 공개하도록 의무화했습니다.

어떤 영상을 밝혀야 하고, 무엇이 제외될까

크리에이터가 영상을 업로드할 때 시스템은 체크리스트를 통해 사실적인 합성 콘텐츠 포함 여부를 묻습니다.

공개 대상은 명확합니다. 실제 인물의 얼굴을 바꾸거나 목소리를 합성해 하지 않은 행동과 말을 꾸며낸 경우, 실제 건물에 불이 난 것처럼 현실의 장소나 사건을 변형한 경우, 그리고 실존하는 마을에 가상의 재난이 닥치는 것처럼 그럴듯한 허위 장면을 연출한 경우가 해당합니다.

신고를 완료하면 영상 더보기 설명란에 '변형 또는 합성된 콘텐츠'라는 라벨이 표시되어, 시청자에게 사운드나 시각 요소가 디지털로 생성되었음을 알립니다.

하지만 선거나 정치, 뉴스, 건강, 금융처럼 민감한 주제를 다룬 영상이라면 취급이 완전히 달라집니다. 설명란뿐만 아니라 영상 플레이어 화면 자체에 눈에 띄는 라벨이 직접 노출됩니다.

유튜브가 모든 AI 사용을 규제하는 것은 아닙니다. 애니메이션처럼 누가 봐도 명백한 허구이거나 유니콘을 타고 달리는 환상적인 장면은 라벨 부착 대상이 아닙니다.

대본 작성이나 아이디어 기획, 자동 자막 생성처럼 생산성 향상을 위해 생성형 AI를 보조 도구로 쓴 경우도 제외됩니다. 일반적인 색감 보정, 조명 필터, 배경 흐림 효과 등도 문제없이 쓸 수 있습니다.

만약 라벨을 붙여야 하는 영상을 반복해서 숨기고 올릴 경우, 유튜브는 강제로 라벨을 부착할 뿐만 아니라 콘텐츠 삭제나 수익 창출 프로그램 정지 같은 강력한 제재를 가할 방침입니다.

왜 중요한가

우리는 유튜브의 이번 정책이 창작 생태계의 현실을 매우 영리하게 반영했다고 봅니다.

AI를 조금이라도 썼다고 해서 무조건 신고하도록 강요하지 않고, 시청자가 '진짜로 착각할 위험'이 있는 사실적 콘텐츠에만 정밀하게 잣대를 들이댔기 때문입니다. 덕분에 대본 작성 등 일상적인 작업에 AI를 쓰는 크리에이터들의 업무 흐름을 방해하지 않으면서도, 정보 오염의 위험을 크게 낮췄습니다.

크리에이터 입장에서는 현실감 있는 AI 클립이나 목소리를 활용할 때 자발적인 라벨링을 기본 원칙으로 삼아야 합니다. 잠깐의 부주의로 유튜브 파트너 프로그램 자격이 박탈되어 수익이 끊기는 대가는 너무나 크기 때문입니다.

업계 전반으로 보면, 2024년은 전 세계 주요 선거가 몰려 있어 딥페이크에 대한 경계심이 최고조에 달한 시점입니다. 유튜브가 수익 박탈이라는 실질적인 페널티를 내걸고 선제 대응에 나선 만큼, 틱톡이나 메타 같은 경쟁 플랫폼들도 비슷한 수준의 강제 규정을 서둘러 도입해야 하는 압박을 받게 되었습니다.

다만 한계도 뚜렷합니다. 자율 신고 방식의 특성상 악의를 품고 가짜 뉴스를 퍼뜨리려는 이용자가 스스로 체크박스를 누를 리는 만무합니다. 결국 자체 탐지 시스템이 미신고 합성 영상을 얼마나 정확하게 잡아내느냐가 이 제도의 성패를 가를 것입니다.