고(故) 조지 칼린 유족, AI 목소리 도용한 팟캐스트와 소송 합의
미국 코미디언 고 조지 칼린의 유족이 AI로 고인의 목소리를 모방해 특별 영상을 만든 팟캐스트 Dudesy 측과 화요일 소송에 합의했다. 피고 측은 영상을 전면 삭제하고 칼린의 음성과 초상을 영구히 사용하지 않기로 했다. 고인의 동의 없는 AI 딥페이크 복원에 제동을 건 대표적 선례로 남게 됐다.
미국 코미디언 고 조지 칼린의 유족이 AI로 고인의 목소리를 모방해 특별 영상을 만든 팟캐스트 Dudesy 측과 화요일 소송에 합의했다. 피고 측은 영상을 전면 삭제하고 칼린의 음성과 초상을 영구히 사용하지 않기로 했다. 고인의 동의 없는 AI 딥페이크 복원에 제동을 건 대표적 선례로 남게 됐다.
OpenAI가 15초 오디오 샘플만으로 자연스러운 음성을 복제하는 모델 '보이스 엔진'의 테스트 결과를 공개했다. 번역과 언어 치료 등 파트너 대상 테스트를 진행 중이지만, 선거철 딥페이크 오남용 위험을 고려해 일반 공개는 당분간 보류하기로 결정했다.
일레븐랩스는 래빗과 협력해 휴대용 AI 기기 r1에 초고음질·저지연 음성 모델을 탑재한다고 발표했다. 사용자는 버튼을 누르고 말하는 것만으로 차량 호출이나 음식 주문 등 복잡한 작업을 음성으로 실행할 수 있다. 실제 사람에 가까운 자연스러운 목소리로 AI 하드웨어의 대화 몰입도를 대폭 끌어올렸다.
미국 테네시주가 아티스트의 동의 없이 목소리를 AI로 모방하는 행위를 금지하는 '엘비스 법(ELVIS Act)'을 통과시켰다. 미국 주 정부 가운데 최초로 제정된 AI 음성 복제 방지법으로, 오는 7월 1일부터 공식 발효된다.
로봇 기업 피규어가 휴머노이드 로봇 '피규어 01'에 오픈AI의 시각 및 음성 모델을 결합한 시연을 공개했다. 로봇은 사람과 자연스럽게 대화하며 지시에 따라 물건을 정리하는 물리적 작업을 수행한다. 챗GPT의 두뇌가 로봇의 신체 제어와 결합해 물리적 세계로 확장되고 있음을 보여준다.
딥그램(Deepgram)이 실시간 텍스트 음성 변환 API '오라(Aura)'를 발표했다. 0.5초 미만(대체로 0.3초 이내)의 짧은 지연 시간으로 자연스러운 음성을 출력하며 가격은 1,000자당 0.015달러다. 대규모 언어 모델 기반 고객센터 상담 에이전트의 실시간 대화를 지원한다.
목요일 저녁, 바이든 미국 대통령이 국정연설에서 AI를 이용한 음성 사칭 및 위조를 금지해야 한다고 촉구했습니다. 구체적인 규제 방안이나 처벌 수위는 밝히지 않았으나, 할리우드 파업에 이어 합성 음성 복제 문제가 주요 국정 과제로 공식 부상했습니다.
OpenAI가 챗GPT의 답변을 음성으로 읽어주는 'Read Aloud' 기능을 도입했다. iOS와 안드로이드 앱에서는 메시지를 길게 눌러 실행할 수 있고, 웹에서는 답변 하단의 전용 아이콘을 누르면 된다. 이동 중이거나 손을 쓰기 어려운 상황에서 답변을 귀로 듣기에 유용하다.
AI 영상 플랫폼 Pika가 일레븐랩스와 협력해 'Lip Sync' 기능을 출시했다. 텍스트 입력이나 오디오 업로드로 대사를 생성하면 캐릭터의 입모양이 음성에 맞춰 움직인다. 현재는 Pika Pro 구독자 및 초대받은 테스터에게만 조기 접근 권한이 제공된다.
일레븐랩스는 퍼플렉시티와의 협업으로 제작된 숏폼 데일리 팟캐스트 '디스커버 데일리'를 공개했다. 퍼플렉시티 검색 엔진이 큐레이션한 혁신·과학·문화 뉴스를 일레븐랩스의 합성 음성으로 전달하며, 주요 팟캐스트 플랫폼에서 바로 청취할 수 있다.
2월 22일, 음성 생성 AI 스타트업 일레븐랩스가 '2024 디즈니 액셀러레이터' 프로그램에 선정되었다고 발표했다. 일레븐랩스는 디즈니의 글로벌 크리에이티브 자원을 활용해 다국어 음성 소통 장벽을 낮추겠다는 계획이다. 생성형 음성 기술이 글로벌 엔터테인먼트 시장에 본격 진입할지 주목된다.
일레븐랩스는 2024년 글로벌 선거철을 맞아 음성 AI 오용을 막기 위한 안전 조치를 발표했다. 미국과 영국의 대선 및 총선 후보 목소리 복제를 차단하는 '금지 음성' 안전장치를 도입하고, 정치용 로보콜이나 사칭을 전면 금지하며 자사 생성 음성을 감지하는 AI 분류 도구도 계속 지원한다.
NBA 커미셔너 애덤 실버가 기술 서밋에서 'NB-AI' 콘셉트를 선보였다. 팬이 음성으로 명령하면 실시간 경기 중계 영상을 스파이더맨 풍의 만화 애니메이션으로 바꾸거나, 선수가 착용한 농구화를 즉시 확인하고 구매할 수 있다. 현재는 기술 시연 단계다.
아마존 연구팀은 10만 시간 분량의 음성을 학습한 9억 8000만 파라미터 크기의 음성 합성 모델 ‘BASE TTS’를 공개했다. LLM처럼 규모가 커지면서 별도 학습 없이도 감정 표현, 속삭임, 복잡한 구문 억양을 자연스럽게 소화하는 ‘창발적 능력’을 확인했다. 악용 위험을 이유로 모델 가중치는 공개하지 않았다.
ElevenLabs가 'Voice Library'를 통해 음성 클론을 수익화할 수 있는 기능을 공개했다. 30분 분량의 오디오로 전문 음성 클론을 만들어 공유하면, 유료 구독자가 이를 사용할 때마다 현금 보상을 받게 된다. 본인 인증 절차와 일일 분석 기능도 함께 제공된다.
미국 연방통신위원회(FCC)가 AI 생성 음성을 활용한 자동 스팸전화(로보콜)를 공식 불법화했다. 이번 결정으로 각 주 검찰총장은 사기 입증 여부와 관계없이 AI 음성 복제 기술을 사용한 것만으로도 직접 단속과 처벌을 진행할 수 있는 법적 근거를 확보했다.
로블록스가 자체 대규모 언어 모델을 기반으로 한 16개 언어 실시간 AI 채팅 번역 기능을 선보였다. 한국인 이용자가 한국어로 채팅을 치면 영어 및 독일어권 이용자에게 각자의 언어로 즉시 번역되어 표시된다. TextChatService를 적용한 모든 로블록스 체험에서 바로 이용할 수 있으며 향후 음성 번역도 지원할 계획이다.
미국 연방통신위원회(FCC)는 자동 안내 전화(로보콜)에 AI 음성 복제 기술을 사용하는 것을 불법으로 규정하는 방안을 제안했다. 최근 바이든 대통령을 사칭한 가짜 투표 방해 전화가 발생하자, 기존 전화소비자보호법상 금지된 인공 음성에 복제 음성을 포함해 사기범 단속과 기소를 수월하게 만들려는 조치다.
애플이 iOS 17.4 베타의 애플 팟캐스트에 머신러닝 기반 자동 전사 기능을 도입했다. 보관함 내 대부분의 프로그램에 텍스트가 표시되지만, 외부 URL로 추가한 팟캐스트는 지원되지 않는다. 세부 기능은 3월 정식 업데이트와 함께 공개될 예정이다.
미국 뉴햄프셔주 경선을 앞두고 조 바이든 대통령 목소리를 흉내 내 투표하지 말라고 독려하는 자동 전화가 확산돼 전문가들이 AI 딥페이크로 분석했다. 탐지 기업 등은 음성 조작 가능성이 매우 높다고 평가했으나, 손쉬운 정치인 음성 복제 기술에 비해 관련 선거 규제는 미비한 실정이다.