일레븐랩스, 2024년 선거 대비해 美·英 정치인 목소리 복제 차단

선거의 해를 맞아 AI 기업들이 가장 두려워하는 것은 모델의 단순한 오답이 아닙니다. 자사 음성 복제 기술이 정치인을 사칭하는 데 쓰여 유권자를 혼란에 빠뜨리는 일입니다. 실제 대선 후보와 똑같은 목소리로 투표 날짜가 바뀌었다는 자동 전화가 걸려온다면 민주주의에 치명적인 타격이 될 수 있습니다.

음성 AI 전문 기업 일레븐랩스(ElevenLabs)가 2024년 글로벌 선거 국면에 대응해 가짜 뉴스와 오남용을 막기 위한 구체적인 대책을 내놓았습니다.

대선 후보 목소리 복제 원천 차단

이번 조치의 핵심은 후보자 음성 생성을 차단하는 이른바 '노고 보이스(no-go voices)' 안전장치입니다.

이 시스템은 대통령이나 총리 선거에 실제로 출마한 후보자의 목소리를 감지하고, 이를 흉내 내는 음성을 생성하지 못하도록 막아냅니다. 적용 대상은 미국과 영국의 선거 후보자부터 시작되며, 이후 다른 언어와 선거 일정으로 점차 범위를 넓힐 계획입니다.

플랫폼 정책도 강화됐습니다. 타인을 사칭하거나 챗봇을 만드는 행위, 그리고 선거 운동 목적으로 무작위 자동 전화(로보콜)를 돌리는 데 기술을 사용하는 것은 명백한 서비스 약관 위반으로 규정되었습니다.

일레븐랩스는 생성된 모든 음성을 원본 계정까지 역추적할 수 있는 시스템을 이미 갖추고 있으며, 선거 방해 목적의 오남용을 적발하기 위해 내부 검토 절차와 모니터링 시스템을 추가로 개발 중이라고 설명했습니다.

아울러 작년 6월 공개한 'AI 음성 분류기(AI Speech Classifier)'의 활용도 다시 강조했습니다. 출처가 의심스러운 오디오 파일을 업로드하면 해당 음성이 일레븐랩스에서 생성된 것인지 누구나 직접 판별해볼 수 있습니다.

왜 중요한가

콘텐츠 제작이나 일반 앱 개발에 일레븐랩스를 쓰던 이용자라면 이번 조치로 큰 불편을 겪을 일은 없습니다. 하지만 정치 풍자나 선거 관련 홍보를 목적으로 목소리를 복제하려던 사용자라면 계정 영구 정지 위험을 감수해야 합니다.

AI 업계 전반으로 보면, 고도화된 음성 복제 기술이 가져올 파장을 막기 위해 기업이 선제적으로 방어선을 친 사례입니다. 특히 정교한 목소리와 로보콜이 결합했을 때 발생하는 위험이 워낙 크기 때문에, 규제 당국의 철퇴를 맞기 전에 자율 규제에 나선 셈입니다.

우리가 보기에 후보자 목소리를 일일이 블랙리스트에 올리는 방식은 현실적으로 두더지 잡기 게임이 될 공산이 큽니다. 출마 후보의 범위를 어디까지 정할지, 비영어권 선거까지 얼마나 신속하게 커버할 수 있을지가 과제로 남습니다.

그럼에도 생성 음성의 계정 추적성을 유지하고 일반에 판별 도구를 제공하는 대응은 매우 영리합니다. 딥페이크 문제가 터졌을 때 책임을 회피하지 않고 기술적 증거를 제시할 수 있는 최소한의 안전장치를 마련했기 때문입니다.