테일러 스위프트 딥페이크 생성 논란, 美 소비자단체 FTC에 Grok 조사 촉구

대다수 주요 AI 플랫폼이 유명인의 딥페이크나 음란물 생성 요청에 엄격한 차단 조치를 취하는 반면, 일론 머스크의 xAI는 전혀 다른 길을 택했습니다.

미국소비자연맹(CFA)을 비롯해 전자프라이버시문서센터(EPIC), 테크오버사이트프로젝트 등 15개 소비자 보호 단체가 연방거래위원회(FTC)와 미국 50개 주 및 워싱턴 D.C. 법무장관에게 일론 머스크의 Grok에 대한 긴급 조사를 촉구하는 서한을 전달했습니다.

조사 요구의 핵심은 이달 초 출시된 Grok의 이미지·동영상 생성 도구 Imagine과, 성인용 콘텐츠 생성을 유도하는 이른바 ‘스파이시(Spicy)’ 모드입니다.

요구하지도 않았는데 튀어나온 딥페이크 영상

이번 조사의 기폭제가 된 것은 IT 매체 더 버지(The Verge)의 테스트 결과였습니다. 해당 매체가 도구를 시험했을 당시, 노출을 전혀 요구하지 않았음에도 팝스타 테일러 스위프트의 상반신 탈의 딥페이크 동영상이 그대로 생성됐습니다.

소비자 단체들은 서한을 통해 현재는 이용자가 직접 업로드한 실제 사진에 스파이시 모드를 적용할 수 없도록 막혀 있지만, 도구가 생성한 이미지를 바탕으로 여전히 특정 실제 인물과 똑같은 누드 동영상을 만들어낼 수 있다고 비판했습니다.

또한 일론 머스크와 플랫폼이 ‘표현의 자유’를 명분으로 안전장치를 없애는 경향을 보여왔다며, 만약 실제 사진 업로드 제한마저 풀린다면 동의 없는 딥페이크가 걷잡을 수 없이 쏟아질 것이라고 경고했습니다. 실제 인물의 AI 누드 배포는 테이크다운법(Take It Down Act) 등에서 금지하고 있으나 현행 법조항이 Grok에 바로 적용되기 어려울 수 있어, 비동의 친밀 영상물 관련 법률 위반 여부를 조사해야 한다는 지적입니다.

미성년자 접근 차단 장치가 사실상 전무하다는 점도 도마 위에 올랐습니다. 성인 모드로 진입하기 전에 뜨는 확인 팝업은 18세 이상인지 묻는 단순 창에 불과하며, 출생 연도 기본 선택값으로 아예 ‘2000년’이 미리 입력되어 있는 경우도 있었습니다. 단체들은 이것이 아동 온라인 프라이버시 보호법(COPPA)과 주별 성인 인증 법안을 위반했을 가능성을 제기했습니다.

왜 중요한가

머스크는 오픈AI나 구글의 엄격한 가드레일을 비판하며 ‘검열 없는 AI’를 차별점으로 내세워 왔습니다. 하지만 프롬프트에 요구하지도 않은 유명인 노출 딥페이크가 제멋대로 생성되는 것은 기술 혁신이라기보다 기본적인 제품 관리 부실에 가깝습니다.

일반 이용자 입장에서도 현재의 스파이시 모드는 법적 리스크가 지나치게 큰 기능입니다. 비동의 성적 딥페이크에 대한 사법 당국의 감시가 강화되는 시점에 호기심으로 생성해 보는 것조차 심각한 문제로 이어질 수 있습니다.

우리는 FTC와 각 주 법무장관이 이번 고발을 그냥 넘기기 어려울 것으로 봅니다. 특히 출생 연도를 미리 채워 넣는 식의 조잡한 연령 확인은 규제 당국의 명백한 표적이 될 수밖에 없습니다. 이번 사건은 검열 완화를 무기로 노이즈 마케팅을 펼치던 생성형 AI 업계에 강력한 규제 가이드라인이 도입되는 계기가 될 것으로 보입니다.