악의적 딥페이크 확산에 스칼렛 요한슨, 美 정부에 'AI 규제법 제정' 촉구

할리우드 배우 스칼렛 요한슨이 자신의 모습을 무단 합성한 딥페이크 영상이 온라인에서 확산하자 미국 정부를 향해 강력한 AI 규제 법안 마련을 촉구했습니다.

요한슨은 피플에 전한 성명을 통해, AI의 임박한 위험으로부터 시민을 보호하는 법안 제정과 관련해 미국 정부가 사실상 마비 상태에 빠져 있다는 점이 끔찍하다고 비판했습니다.

유명인을 악용한 혐오 딥페이크의 확산

논란이 된 영상에는 요한슨을 비롯해 제리 사인펠드, 밀라 쿠니스, 잭 블랙, 드레이크, 제이크 질렌할, 아담 샌들러 등 유대계 유명인들이 대거 등장합니다.

영상 속 인물들은 카니예라는 이름과 함께 다윗의 별이 들어간 손가락 욕설 그래픽이 인쇄된 티셔츠를 입고 있습니다. 이는 최근 X로 복귀해 반유대주의 발언을 쏟아내고 나치 문양이 들어간 셔츠를 판매하려 했던 칸예 웨스트의 행보에 편승해 제작된 AI 생성물입니다.

요한슨은 혐오 발언을 용인할 수 없는 유대인 여성으로서의 입장을 밝히면서도, AI로 인해 증폭되는 혐오 발언의 파급력이 특정 개인의 위협보다 훨씬 거대하다고 지적했습니다. 그러면서 AI 남용을 규탄하지 않는다면 현실에 대한 통제력을 잃게 될 것이라고 경고했습니다.

거듭되는 개인의 싸움, 역행하는 규제 흐름

요한슨이 AI 무단 사용에 맞선 것은 이번이 처음이 아닙니다. 2023년에는 온라인 광고에 자신의 이름과 초상을 도용한 AI 앱 개발사를 고소했고, 지난해에는 챗GPT에서 자신의 목소리를 빼닮은 음성을 선보인 오픈AI에 항의해 해당 음성 서비스를 중단시켰습니다.

하지만 제도적 안전망은 여전히 빈약합니다. 미국 의회는 지난해 비동의 성 착취물 딥페이크 처벌 법안을 발의했을 뿐, 그 외 형태의 AI 규제 논의는 제자리걸음을 걷고 있습니다.

오히려 규제 환경은 후퇴하는 모양새입니다. 2024년 9월 개빈 뉴섬 캘리포니아 주지사는 주요 AI 안전 법안에 거부권을 행사했고, 도널드 트럼프 대통령은 취임 후 조 바이든 전 대통령의 AI 안전 행정명령을 전면 폐기했습니다. 이번 주에는 미국과 영국이 AI의 윤리적 사용을 촉구하는 국제 선언문 서명마저 거부했습니다.

왜 중요한가

최정상급 스타조차 초상권 도용에 대응하기 위해 매번 여론전에 의존해야 한다면, 평범한 개인이 악의적인 딥페이크에 노출되었을 때 대응할 방법은 전무합니다.

우리가 보기에 이번 사안은 생성형 AI 기술의 발전 속도와 정치권의 대응 능력 사이의 괴리를 적나라하게 보여줍니다. 기술 패권 경쟁에 밀려 규제를 완화하는 흐름 속에서, 개인의 정체성을 무단 복제해 혐오나 선동에 이용하는 행위에 대한 제동 장치는 완전히 빠져 있습니다.

단순히 성 착취물 중심의 좁은 규제에 머무를 것이 아니라, 생성물의 출처 표시 의무화와 플랫폼의 책임 강화 등 실질적인 법안이 필요합니다. 이를 방치한다면 디지털 콘텐츠 전반에 대한 신뢰 붕괴는 피하기 어려울 것으로 보입니다.