일레븐랩스, 음성 복제 오남용에 규제 강화 검토…유명인 딥페이크 파장
AI 음성 스타트업 일레븐랩스는 베타 서비스에서 음성 복제 오남용이 급증하자 안전 조치를 강화하겠다고 밝혔다. 4chan에서 유명인 음성을 합성한 혐오 발언이 확산된 데 따른 조치로, 결제 정보 등록이나 신분증 인증, 수동 검토 도입을 고려 중이다.
AI 음성 스타트업 일레븐랩스는 베타 서비스에서 음성 복제 오남용이 급증하자 안전 조치를 강화하겠다고 밝혔다. 4chan에서 유명인 음성을 합성한 혐오 발언이 확산된 데 따른 조치로, 결제 정보 등록이나 신분증 인증, 수동 검토 도입을 고려 중이다.
Axios에 따르면 스타트업 Truleo의 AI 시스템이 미국 내 여러 경찰서에 도입되고 있다. 바디캠 음성을 매일 자동 전사·분석해 욕설, 폭력, '숨을 쉴 수 없다' 같은 위험 발언을 감지해 상급자에게 보고한다. 캘리포니아주 알라메다 경찰서는 도입 후 무력 사용이 36% 감소했다고 밝혔다.
세계경제포럼 보도에 따르면 비영리 단체 어스 스피시즈 프로젝트(ESP) 연구진이 AI를 활용해 동물 생체 음향 데이터를 분석하고 언어를 해독하는 연구를 진행 중이다. 단순한 이해를 넘어 종 간 양방향 소통을 지원해 생태계 보전을 돕는 것이 목표다.
일레븐랩스가 완전히 새로운 가상 음성을 생성할 수 있는 음성 디자인 기능을 공개했다. 성별, 연령, 악센트 등 파라미터를 설정하면 세상에 없던 고유한 목소리를 생성할 수 있으며, 이 기능은 2월 Voice Lab에 도입될 예정이다.
마이크로소프트가 텍스트 음성 변환 AI 모델 VALL-E를 발표했다. 단 3초 분량의 오디오 샘플만으로 화자의 음색과 감정, 방 안의 음향 환경까지 모사한다. 6만 시간 분량의 음성 데이터로 훈련되었으며, 사칭 등 오용 위험을 고려해 코드는 오픈소스로 공개하지 않는다.
MIT CSAIL 연구진은 비디오, 오디오, 텍스트 간 공통 개념을 학습하는 표현 학습 기법을 공개했다. 공유 임베딩 공간에서 1000개의 단어 벡터만을 활용해 비디오 속 동작을 식별하고 검색 정확도와 설명 가능성을 높였다. 인간처럼 세상을 인지하는 로봇 개발에 기여할 수 있으나, 현재는 한 번에 두 가지 모달리티만 처리 가능하다.
애플이 애플 북스 스토어에 AI 합성 음성으로 녹음된 'Narrated by Apple Books' 오디오북을 출시하기 시작했다. 소설과 로맨스 등 장르에 맞춰 최적화된 목소리를 제공하며, 제작 기간은 약 1~2개월 소요된다. 고비용 오디오북 제작 문턱을 낮추는 동시에 성우들의 일자리에 미칠 영향도 주목받고 있다.
엔비디아가 가상 비서 및 디지털 휴먼 제작을 위한 클라우드 네이티브 AI 마이크로서비스 '옴니버스 ACE'의 얼리 액세스를 시작했다. 음성 기반 표정 생성 도구인 Audio2Face와 Riva 음성 합성을 결합해 언리얼 엔진의 메타휴먼 및 레디 플레이어 미 캐릭터와 연동된다. 복잡한 로컬 파이프라인 없이도 클라우드에서 손쉽게 고품질 3D 아바타를 배포할 수 있다.
딥브레인AI가 2022년 말 고인의 사진과 영상, 사전 인터뷰 데이터를 활용해 가상 인간으로 복원하는 유료 서비스 '리메모리'를 시작했다. 영상 합성 및 대화형 AI 기술로 음성과 표정을 재현하며, 전용 쇼룸에서 30분간 실시간 영상 통화 형태의 재회 경험을 제공한다.
AI 영상 제작 플랫폼 Synthesia가 축구 스타 리오넬 메시의 5분 분량 영상을 기반으로 유창한 영어 등 최대 10개 언어를 구사하는 합성 영상을 선보였다. 평소 공개 석상에서 영어를 쓰지 않던 메시의 입모양과 음성이 자연스럽게 일치해 놀라움을 샀다. 딥러닝 기반 다국어 아바타 기술의 진보를 체감케 한다.
딥러닝이 메타버스의 핵심 인프라로 자리 잡고 있다. 시선 추적과 3D 재구성뿐 아니라 메타의 실시간 음성 번역, 사전 작성된 대사를 벗어난 생성형 챗봇 기반 브랜드 대표가 가상 공간에 도입되고 있다. 가상 세계에서의 원활한 상호작용을 AI가 이끌고 있다.
다이얼패드(Dialpad)가 AI 랩스를 출범하고 향후 5년간 5000만 달러를 AI 연구개발에 투자한다고 밝혔습니다. 고객 이탈 예측 및 만족도 분석, CRM 자동 메모 작성 등 워크플로 자동화 고도화에 집중합니다. 실시간 음성 인식을 넘어 기업용 의사결정 인텔리전스로 영역을 넓히려는 행보입니다.