英 금융 전문가 마틴 루이스, 페이스북 딥페이크 사기 광고 경고

소셜 미디어에서 유명인의 얼굴을 대충 오려 붙이고 고수익을 약속하던 조잡한 피싱 광고의 시대가 끝나가고 있습니다. 이제 사기꾼들은 생성형 AI를 사용해 본인의 목소리와 입 모양까지 똑같이 흉내 낸 가짜 동영상을 전면에 내세우고 있습니다.

영국의 저명한 소비자 금융 전문가 마틴 루이스는 7월 6일, 페이스북에서 자신의 딥페이크 영상을 악용한 투자 사기 광고가 유포되고 있다며 긴급 경고에 나섰습니다. 영상 속 가짜 루이스는 일론 머스크가 후원한다는 정체불명의 투자 기회를 적극적으로 홍보했습니다.

물론 이 영상은 정교하게 제작된 AI 딥페이크이며, 머스크나 루이스와는 아무런 관련이 없는 사기 범죄입니다. 루이스는 평소 특정 기업이나 제3자의 금융 상품 광고에 일절 출연하지 않는 원칙을 지켜왔지만, 사기 조직은 그의 높은 대중적 신뢰도를 집요하게 악용했습니다.

소송 합의 후에도 반복되는 플랫폼의 방조

루이스가 이번 사태에 유독 강한 분노를 표출하는 데는 이유가 있습니다. 그는 이미 페이스북을 상대로 같은 문제로 법적 다툼을 벌인 적이 있습니다.

루이스는 지난 2018년 자신의 초상을 도용한 사기 광고를 방치했다는 이유로 페이스북을 상대로 명예훼손 소송을 제기했습니다. 양측은 2019년 페이스북이 영국 이용자를 위한 사기 광고 신고 버튼을 신설하고, 시민 사기 상담 서비스 설립을 위해 300만 파운드를 기부하는 조건으로 합의했습니다.

하지만 사기 규모에 비하면 이러한 조치는 새발의 피에 불과했습니다. 지난해 영국 내 소비자와 기업이 금융 사기로 입은 피해액은 사상 최고치인 13억 파운드에 달했습니다. 반면 메타의 2022년 연간 매출은 무려 1166억 1000만 달러였습니다.

루이스는 영국 ITV 방송의 모닝쇼에 출연해 "내가 직접 등장하는 딥페이크 사기 광고를 본 것은 이번이 처음"이라며, "이 기술은 아직 초기 단계일 뿐이며 앞으로 훨씬 더 정교해질 것이라는 점이 공포스럽다"고 경고했습니다.

메타 대변인은 테크크런치에 해당 사안을 조사 중이며 플랫폼 규정에 따라 원본 영상과 모방 광고들을 선제적으로 삭제했다고 밝혔습니다. 그러나 이처럼 명백한 유명인 사칭 영상이 어떻게 사전 심사를 통과해 피드에 게시될 수 있었는지에 대해서는 구체적인 설명을 내놓지 못했습니다.

정밀 광고 시스템이 사기꾼의 무기가 되는 현실

루이스는 빅테크 플랫폼뿐만 아니라 영국 정부의 늑장 입법도 강하게 비판했습니다. 온라인 안전 법안의 적용 범위를 유료 사기 광고까지 확대하기로 했으나, 의회 통과가 기약 없이 미뤄지면서 이용자들이 사기 범죄에 무방비로 노출되어 있다는 지적입니다.

특히 심각한 문제는 메타의 핵심 비즈니스 모델이 사기 범죄의 지렛대로 쓰이고 있다는 점입니다. 메타는 웹 전반에 걸친 방대한 사용자 추적 데이터를 바탕으로 고도화된 타깃 광고 도구를 판매합니다.

사기범들이 AI로 그럴듯한 속임수 영상을 만들어 메타의 광고 시스템에 올리면, 알고리즘이 알아서 속아 넘어가기 쉬운 취약 계층의 피드에 해당 광고를 정확하게 배달해 줍니다.

루이스의 지적대로 이용자가 소셜 미디어에서 사기 광고를 볼 때마다 빅테크 기업은 광고비를 챙기고 있습니다. 피해자들의 삶이 송두리째 무너지는 동안 거대 플랫폼은 기술적 방조를 통해 수익을 올리는 셈입니다.

왜 중요한가

일반 이용자 입장에서 이번 사건은 이제 '눈으로 보고 귀로 듣는 것'조차 믿을 수 없는 시대가 왔음을 의미합니다. 과거에는 철자 오류나 어색한 합성 사진으로 사기 여부를 판별할 수 있었지만, 생성형 AI가 만든 정교한 영상과 음성은 일상적인 주의력만으로는 구별하기가 사실상 불가능합니다.

우리는 이번 일이 거대 테크 기업들의 광고 비즈니스가 지닌 구조적 위선을 적나라하게 드러냈다고 봅니다. 플랫폼들은 광고주에게는 AI 기반의 초정밀 타깃팅 기술을 자랑하면서, 정작 사기 범죄를 걸러내는 사전 필터링에는 기술적 무능을 핑계 대고 있습니다.

사후 삭제나 소액의 기부금 형식의 합의는 천문학적인 매출을 올리는 빅테크에 아무런 억제력을 발휘하지 못합니다. 플랫폼이 불법 사기 광고 배포에 대해 직접적인 금전적·법적 책임을 지도록 강제하지 않는다면, 생성형 AI 기술은 앞으로 범죄자들의 가장 효율적인 먹잇감 공급 수단으로 전락할 것입니다.