머스크, 해리스 부통령 AI 딥페이크 영상 공유…X 자체 규정 위반 논란

플랫폼 주인이 직접 만든 규칙을 스스로 무너뜨린다면 그 시스템을 어떻게 신뢰할 수 있을까요?

지난주 금요일 일론 머스크는 X에 카멀라 해리스 미국 부통령을 조롱하는 딥페이크 영상을 공유했습니다. 해리스의 공식 대선 출마 캠페인 영상에 AI로 합성한 목소리를 입힌 형태였습니다. 영상 속 가짜 해리스는 자신이 다양성 할당제의 수혜자라거나 딥스테이트의 꼭두각시인 조 바이든 밑에서 4년을 보냈다고 말합니다.

원래 게시물을 올린 계정은 영상에 패러디라는 표기를 명확히 달아 두었습니다. 하지만 머스크가 이를 인용해 다시 올리면서 패러디라는 설명은 싹 빠졌고, 대신 대단하다는 문구와 웃는 이모티콘만 덧붙였습니다.

스스로 정한 플랫폼 가이드라인을 정면 위반

문제는 이 게시물이 X의 합성 및 조작 미디어 정책에 정면으로 배치된다는 점입니다.

X의 공식 정책에 따르면 사람들을 속이거나 혼란을 주어 피해를 입힐 수 있는 조작 미디어는 게시할 수 없습니다. 원본의 맥락을 근본적으로 바꾸는 음성 변조 역시 금지 행위로 명시되어 있습니다. 패러디나 풍자 콘텐츠는 허용되지만, 원본의 진위 여부에 심각한 혼란을 주지 않아야 한다는 조건이 붙어 있습니다.

머스크의 게시물은 패러디라는 맥락을 지워버린 채 수억 명의 피드에 노출되었습니다. 가장 관대한 기준으로 보더라도 X의 자체 규정을 어긴 셈입니다.

정치권에서는 즉각 거센 비판이 쏟아졌습니다. 에이미 클로버샤 상원의원은 스레드를 통해 맥락 없는 딥페이크 방치는 대선 기간 내내 출처 불명의 AI 조작 음성과 이미지가 판치도록 문을 열어주는 꼴이라고 지적했습니다. 클로버샤 의원은 이미 AI 조작 정치 광고에 표기를 의무화하는 법안을 발의한 상태입니다.

개빈 뉴섬 캘리포니아 주지사 역시 X에 글을 올려 선거 광고에서 음성을 조작하는 행위는 불법이어야 마땅하다며 몇 주 내로 이를 금지하는 법안에 서명하겠다고 밝혔습니다. 머스크는 패러디 표기가 남아 있는 원본 링크를 올리며 미국에서 패러디는 합법이라는 식의 조롱 섞인 답변으로 맞받아쳤습니다.

왜 중요한가

대선을 앞두고 빅테크 기업들이 AI 콘텐츠 식별 방안을 고심하는 상황에서, 플랫폼 소유주가 앞장서서 가이드라인을 무력화시켰다는 점이 핵심입니다.

일반 이용자에게 이번 사건은 정보 오염의 위험성을 적나라하게 보여줍니다. 올해 초 뉴햄프셔주 경선 당시 바이든 대통령의 음성을 도용한 로보콜 사태처럼, 정치 분야의 AI 오디오 조작은 이미 현실의 위험입니다. 수천만 명의 팔로워를 거느린 오피니언 리더가 표식 없는 조작 미디어를 단순 유머로 치부하며 유통할 경우 이용자가 진위를 가려내기는 불가능에 가깝습니다.

산업적 관점에서도 플랫폼의 자율 규제가 한계에 부딪혔음을 증명합니다. 린다 야카리노 X CEO가 광고주 신뢰 회복을 위해 애쓰고 있지만, 소유주 한 사람의 돌발 행동으로 플랫폼의 신뢰와 안전 정책은 무용지물이 되었습니다. 기업이 내부 규칙으로 통제하지 못한다면 결국 뉴섬 주지사의 언급처럼 강제적인 법적 규제가 도입될 수밖에 없으며, 이는 플랫폼 업계 전반에 더 무거운 법적 책임을 지우는 부메랑으로 돌아올 가능성이 큽니다.