틱톡, AI 콘텐츠 라벨 도입: 사실적인 AI 영상 표기 의무화

틱톡이 인공지능으로 제작되거나 편집된 콘텐츠에 크리에이터가 직접 라벨을 붙일 수 있는 도구를 도입했습니다.

틱톡은 최근 생성형 AI를 활용한 비디오 필터와 고유 배경을 만들어주는 이미지 생성기를 추가해 왔습니다. 이번 조치에 따라 AI 기술이 들어간 자체 필터들은 이용자가 쉽게 알아볼 수 있도록 이름에 'AI'가 포함되도록 순차적으로 변경됩니다.

라벨 부착 의무화와 자동 탐지 도입

새로운 라벨은 틱톡 내부 도구로 만든 영상에만 국한되지 않습니다. 외부 서드파티 프로그램을 사용해 전체를 생성했거나 AI로 대폭 수정한 콘텐츠라면 소스에 관계없이 누구나 라벨을 적용할 수 있습니다.

또한 이번 라벨 표시는 단순한 선택 사항이 아닙니다. 개정된 틱톡 정책에 따르면 실제와 구분이 어려운 사실적인 AI 생성 이미지나 오디오, 비디오가 포함된 경우 반드시 라벨을 달아야 합니다. 시청자에게 정확한 맥락을 전달하고 오해의 소지가 있는 정보의 확산을 막기 위한 조치이지만, 시스템 라벨 대신 스티커나 텍스트 캡션으로 명시해도 가이드라인 위반을 피할 수 있습니다.

크리에이터의 자발적인 표기에만 의존할 경우 누락이 발생할 수밖에 없습니다. 이에 따라 틱톡은 AI 생성 게시물을 자체적으로 감지해 자동으로 라벨을 부착하는 알고리즘을 개발 중이라고 밝혔습니다. 다만 이 자동화 도구의 구체적인 출시 일정은 공개되지 않았습니다.

이번 조치는 안전 자문 위원회 및 학계, 업계 전문가들과의 협업을 통해 마련되었습니다. 틱톡은 이와 함께 비영리 연합체인 'Partnership on AI'의 합성 미디어 책임 실천 규범을 준수하겠다고 선언했으며, 비영리 단체 Digital Moment와 손잡고 청소년 사용자들과 AI 발전을 논의하는 라운드테이블도 열 계획입니다.

왜 중요한가

크리에이터 입장에서는 현실적인 AI 합성 콘텐츠를 올릴 때 라벨링 절차가 필수가 되었습니다. 규정을 지키지 않을 경우 계정 제재 등의 위험을 겪을 수 있으나, 시스템 라벨이나 스티커로 표기하는 방식의 진입 장벽은 낮은 편이므로 선제적으로 준수하는 편이 안전합니다.

업계 전반으로 보면 소셜 미디어 플랫폼들이 생성형 AI의 부작용을 관리하는 기준선을 한 단계 끌어올린 사례입니다. 생성 기술이 발전할수록 플랫폼 내 신뢰도가 급격히 하락할 수 있기 때문에, 틱톡의 이번 정책은 경쟁 플랫폼들에도 콘텐츠 투명성 확보를 강제하는 계기가 될 것으로 보입니다.

필터 이름부터 바꾸고 자발적 라벨링 시스템을 선제 도입한 것은 현명한 대처로 평가할 수 있습니다. 하지만 악의적인 유포자가 스스로 라벨을 붙일 가능성은 거의 없다는 점이 여전히 한계입니다. 결국 이 제도가 실효성을 거두려면 틱톡이 현재 개발 중이라고 밝힌 자동 탐지 알고리즘이 얼마나 정교하게 작동하느냐에 달려 있다고 판단됩니다.