메타, 'AI 옷 벗기기' 앱 개발사 제소…단속 기술도 대폭 강화

메타가 악성 AI 딥페이크 누드 앱을 뿌리뽑기 위해 법적 대응과 새로운 기술적 방어책을 동시에 가동했습니다.

메타는 6월 12일, 동의 없는 음란 딥페이크 이미지를 생성하는 크러시AI의 배후 운영사인 조이 타임라인 HK 리미티드를 홍콩 법원에 제소했다고 밝혔습니다. 이 업체는 메타의 규정 위반으로 광고가 거듭 삭제되었음에도 감시망을 우회해 페이스북과 인스타그램 등에 광고를 계속 집행하려 시도해 왔습니다.

메타는 1년 전부터 누디파이 앱이나 유사 서비스의 프로모션을 전면 금지하고 관련 링크를 차단해 왔습니다. 페이스북과 인스타그램 내에서 nudify, undress, delete clothing 같은 검색어 노출도 제한했지만, 광고주들의 수법은 날로 교묘해졌습니다.

노출 이미지 없어도 잡아내는 전용 필터

수익을 노린 악성 광고주들은 적발을 피하려고 전략을 계속 바꿨습니다.

선정성 감지 시스템에 걸리지 않도록 광고 소재 자체에는 노출이 전혀 없는 일반적인 이미지를 쓰고, 차단된 도메인은 새 주소로 즉각 교체하는 식입니다.

이에 대응해 메타는 광고 이미지 자체에 노출이 없더라도 탈의 앱 광고 여부를 식별해 내는 전용 탐지 기술을 개발했습니다. 유사한 모방 광고를 빠르게 찾아내 삭제하는 매칭 기술도 적용했습니다.

외부 전문가들과 협력해 관련 은어, 문구, 특정 이모티콘까지 감지 목록에 추가했습니다. 이와 함께 조직적 허위 활동을 추적하는 전문 조사팀을 투입해 올해 들어서만 4개의 독립적인 불법 광고 계정 네트워크를 적발해 해체했습니다.

메타는 플랫폼 밖 대응도 넓히고 있습니다. 테크 코얼리션의 랜턴 프로그램을 통해 지난 3월 말부터 다른 IT 기업들에게 위반 앱과 사이트의 고유 URL 3800여 개를 공유했습니다. 입법 측면에서는 미국 초당파 법안인 테이크 잇 다운 액트와 청소년의 앱 다운로드를 부모가 승인하도록 하는 법안을 지지하고 나섰습니다.

왜 중요한가

AI를 이용한 비동의 성적 딥페이크는 생성형 기술 확산 과정에서 가장 파괴적인 피해를 낳는 영역입니다. 일반인 피해자의 일상 사진이 무단으로 도용되어 성적 대상화되는 일이 잦았고, 이들 앱은 주로 소셜 미디어 유료 광고를 통해 유료 결제 사용자를 끌어모았습니다.

이번 메타의 조치는 단순한 표면적 필터링을 넘어섰다는 점에서 의미가 있습니다. 이미지 속 노출 여부만 검사하는 방식은 도메인과 소재를 계속 갈아치우는 불법 업자들을 막아내지 못했습니다. 계정 네트워크 전체를 추적하고 주요 배후 법인을 직접 법정에 세운 것은 광고 집행의 실질적 비용을 높이는 유효한 압박입니다.

경쟁 플랫폼들에 3800개 이상의 유해 URL을 넘겨준 정보 공유 역시 실질적인 효과가 기대됩니다. 한 플랫폼에서 쫓겨난 서비스가 다른 플랫폼으로 이동하는 풍선효과를 차단하려면 생태계 차원의 연계가 필수적이기 때문입니다.

하지만 소셜 미디어 광고를 차단하는 것만으로는 완전한 근절이 어렵습니다. 앱 마켓의 유통 심사가 허술하거나 오픈소스 모델을 악용한 오프라인 툴이 존재하는 한 위험은 다른 경로로 번질 수밖에 없습니다. 메타가 앱스토어의 청소년 다운로드 통제 법안을 촉구한 것도 단일 플랫폼의 필터링만으로는 한계가 뚜렷하다는 점을 방증합니다.