메타, 선거 관련 가짜뉴스 중 AI 콘텐츠 비중은 1% 미만

올해 초만 해도 전 세계 테크 업계와 정계는 생성형 AI가 선거판을 뒤흔들 것이라는 공포에 휩싸여 있었습니다. 역사적인 선거의 해를 맞아 정교한 딥페이크와 AI 선전물이 유권자를 혼란에 빠뜨릴 것이라는 경고가 쏟아졌기 때문입니다.

하지만 연말을 맞아 메타가 공개한 성적표는 예상과 사뭇 달랐습니다. 메타는 페이스북, 인스타그램, 스레드 전반에서 생성형 AI가 미친 영향이 극히 미미했다고 발표했습니다.

59만 건의 생성 차단, 그리고 AI로 별 재미 못 본 여론 조작단

메타의 이번 분석은 미국, 영국, 프랑스, 인도, 인도네시아, 멕시코 등 주요 선거를 대상으로 진행되었습니다. 놀랍게도 외부 팩트체크 파트너들이 확인한 선거 관련 허위 정보 중 AI가 관여된 비율은 1% 미만에 그쳤습니다.

물론 시도가 전혀 없었던 것은 아닙니다. 메타는 자사의 이미지 생성기인 '이매진 AI'를 통해, 미국 대선 직전 한 달 동안 트럼프, 밴스, 해리스, 월즈, 바이든 등 주요 후보자의 이미지 생성 요청 약 59만 건을 사전 차단했습니다.

조직적인 여론 조작 세력의 움직임도 분석했습니다. 이들 역시 생성형 AI를 활용하긴 했으나, 콘텐츠 제작 속도가 조금 빨라졌을 뿐 실질적인 영향력 확장에는 큰 도움이 되지 못했다는 설명입니다.

메타의 차단 방식도 한몫했습니다. 메타 보안팀은 게시물이 AI로 만들어졌는지를 일일이 따지는 대신, 수상한 계정 네트워크의 행동 패턴 자체를 추적해 적발합니다. 내용물이 텍스트든 딥페이크든 상관없이 비정상적인 활동이 감지되면 퇴출하는 구조입니다.

실제로 올해 적발된 약 20개의 은밀한 여론 조작 네트워크 대부분은 실제 유저들의 관심을 끌지 못했고, 허위 팔로워와 가짜 좋아요로 덩치만 부풀린 상태였습니다. 메타는 또한 러시아 연계 공작 계정들의 가짜 선거 영상이 자사 앱보다는 X나 텔레그램을 중심으로 유통되었다며 다른 플랫폼을 겨냥하기도 했습니다.

왜 중요한가

이번 발표는 올 한 해 테크 생태계를 짓눌렀던 'AI 대선 개입' 공포가 다소 과장되었음을 보여줍니다. 일반 유전자 입장에서 보면 타임라인을 어지럽힌 것은 정교한 AI 딥페이크가 아니라, 여전히 전통적인 확증 편향과 자극적인 편집 영상이었습니다.

하지만 메타가 제시한 '1% 미만'이라는 수치를 맹신해서는 안 됩니다. 이 통계는 전문 기관의 공식 팩트체크 대상이 된 명백한 허위 정보만을 분모로 삼았기 때문입니다. 레이더망에 걸리지 않은 미세한 편향 유도 글이나 저화질 AI 스팸의 규모까지 완전히 대변하지는 못합니다.

아울러 메타가 규제가 느슨한 X와 텔레그램을 콕 집어 언급한 것은 영리한 여론 관리 전략이기도 합니다. 결국 문제는 거대 모델이 유권자를 완벽히 속이는 디스토피아가 아니라, 진입 장벽이 낮아진 오픈소스 툴과 규제 사각지대에 놓인 플랫폼들이 뿜어내는 저비용 정보 공해를 어떻게 막아낼 것인가로 옮겨가고 있습니다.