일레븐랩스, 2024년 선거 대비해 美·英 정치인 목소리 복제 차단
일레븐랩스는 2024년 글로벌 선거철을 맞아 음성 AI 오용을 막기 위한 안전 조치를 발표했다. 미국과 영국의 대선 및 총선 후보 목소리 복제를 차단하는 '금지 음성' 안전장치를 도입하고, 정치용 로보콜이나 사칭을 전면 금지하며 자사 생성 음성을 감지하는 AI 분류 도구도 계속 지원한다.
AI Speech Classifier
일레븐랩스, AI 음성 감별 도구 출시: 자사 기술 위조 여부 즉시 판별
일레븐랩스가 자사 기술로 생성된 음성을 판별하는 'AI Speech Classifier'를 공개했다. 로그인 없이 음성이나 영상 파일을 업로드하면 첫 1분 분량을 분석해 자사 AI 생성 확률과 유사한 음색을 찾아준다. 다만 Eleven v3 모델로 생성된 음성 판별은 아직 불안정하다.