바이든 사칭해 투표 방해한 자동 전화, AI 딥페이크 유력

선거를 코앞에 두고 걸려 온 전화에서 현직 대통령의 목소리가 흘러나와 투표장에 가지 말라고 한다면 어떨까요.

미국 뉴햄프셔주 민주당 대선 프라이머리를 앞두고 실제로 일어난 일입니다. 조 바이든 대통령의 목소리를 흉내 내며 화요일 예비선거에 투표하지 말라고 독려하는 자동 녹음 전화(로보콜)가 유권자들에게 무차별 살포됐습니다. 뉴햄프셔주 법무장관실은 즉각 명백한 불법 유권자 투표 방해 시도로 규정하고 조사에 착수했으며, 전문가들은 이 음성을 AI 딥페이크로 보고 있습니다.

몇 분 만에 복제되는 정치인의 목소리

NBC News가 입수한 녹음본을 들어보면 바이든 대통령 특유의 말투와 비슷하지만 어조가 다소 부자연스럽고 뚝뚝 끊깁니다.

디ープ페이크 탐지 전문 기업 리얼리티 디펜더의 벤 콜먼 CEO는 원본 데이터가 없어 100% 단정할 수는 없지만 조작되었을 가능성이 매우 높다고 밝혔습니다. 저먼 마셜 펀드의 린지 고먼 연구원 역시 음성 후반부의 억양이 기계음처럼 부자연스러우며, 이는 전형적인 가짜 음성의 특징이라고 지적했습니다.

더 큰 문제는 이런 딥페이크를 만드는 진입 장벽이 사실상 사라졌다는 점입니다.

음성 복제 프로그램은 이제 모바일 앱이나 웹사이트에서 무료 혹은 몇 달러 수준에 널려 있습니다. 대중 연설 영상이 많은 정치인은 단 몇 초 분량의 샘플만으로도 손쉽게 복제할 수 있어, 초보자도 단 몇 분 만에 그럴듯한 가짜 음성을 만들어낼 수 있습니다.

낡은 선거 방해 수법, AI를 무기로 장착하다

로보콜을 이용한 유권자 방해 공작은 미국 정치사에서 완전히 새로운 수법은 아닙니다.

투표 장소나 날짜를 속여 투표를 포기하게 만드는 식의 전화 사기는 과거에도 종종 있었습니다. 뉴욕대 로스쿨 브레넌 정의센터의 메켈라 판디타라트네 수석 변호사는 기존의 유권자 억압 수법에 음성 생성 AI가 결합하면서 사기범들에게 훨씬 더 매력적이고 위력적인 무기가 되었다고 짚었습니다.

반면 제도적 방어벽은 턱없이 허술합니다.

투표를 고의로 방해하는 행위는 연방법으로 처벌받지만, 기만적인 AI 사용 자체를 규제하는 명확한 기준은 아직 없습니다. 리처드 블루먼솔 상원의원은 누구나 몇 분 만에 다룰 수 있는 기술이라며 강력한 대응을 촉구했지만, 연방선거위원회(FEC) 대변인은 딥페이크 규제 절차에 착수할지조차 아직 결정하지 못했다고 밝혔습니다.

왜 중요한가

선거판에서 생성형 AI의 악용이 단순한 미래 예측이 아니라 실제 작전으로 실행되었음을 보여준 사건입니다.

일반 유권자 입장에서 이를 가려내는 비용은 너무 큽니다. 영상 딥페이크는 부자연스러운 눈 깜빡임이라도 살필 수 있지만, 전화기 너머로 짧게 들려오는 저음질 음성의 미세한 억양 결함을 바쁜 일상 중에 알아채기는 거의 불가능합니다.

기술과 규제의 속도 차이 역시 심각한 결함을 드러냈습니다. 사기 세력은 몇 분 만에 완성되는 저비용 도구로 유권자를 정밀 타격하고 있는데, FEC 같은 핵심 감독 기구는 규칙 제정 여부를 두고 여전히 검토만 거듭하고 있습니다.

우리가 보기에 이대로라면 방어자가 절대적으로 불리한 싸움이 될 수밖에 없습니다. 생성 AI에 대한 기술적 추적 장치와 엄격한 법적 처벌 기준이 서둘러 마련되지 않는다면, 앞으로의 모든 주요 선거는 가짜 목소리를 걷어내는 데 막대한 사회적 비용을 치르게 될 것입니다.