OpenAI, GPT-4o 시스템 카드 공개…음성 복제 위험과 설득력 평가 집중 점검
OpenAI가 GPT-4o의 시스템 카드와 안전성 평가 보고서를 공개했다. 생물학적 위협, 사이버 보안, 모델 자율성은 낮음으로 평가됐으나 설득력은 중간 수준으로 분류됐다. 특히 실시간 음성 기능으로 인한 목소리 위조 및 사칭 위험을 막기 위해 100명 이상의 다국어 레드팀을 투입해 안전장치를 구축했다고 밝혔다.
AI 음성
최신 소식 보기
아마존 뮤직, 팟캐스트 주제별로 탐색하는 AI 기능 '토픽' 출시
아마존 뮤직이 AWS AI를 활용해 팟캐스트 스크립트와 설명을 분석하고 주제별 태그를 생성하는 '토픽(Topics)' 기능을 공개했다. 청취자는 에피소드 설명란의 태그를 눌러 동일한 주제를 다룬 다른 팟캐스트 에피소드를 한눈에 모아볼 수 있다. 현재 모바일 앱 내 인기 팟캐스트를 중심으로 우선 적용된다.
메타, 주디 덴치 등 할리우드 스타와 수백만 달러 규모 AI 음성 계약 추진
외신에 따르면, 메타가 주디 덴치, 아콰피나 등 유명 배우들과 메타 AI 음성 탑재를 위해 수백만 달러 규모의 계약을 협상 중이다. 메타는 9월 열리는 커넥트 행사에서 새 음성을 공개하고, 인스타그램과 레이밴 스마트 안경 등에 적용할 계획이다.
베일 벗은 ChatGPT 고급 음성 모드: 방언 흉내부터 외국어 발음 교정까지
OpenAI가 ChatGPT Plus 일부 사용자에게 배포하기 시작한 '고급 음성 모드'의 시연 영상들이 공개됐다. 기내 방송 효과음 흉내, 지역별 억양 구사, 프랑스어 발음 교정 및 노래 실력까지 보여줬다. OpenAI 대변인은 올가을 모든 Plus 구독자에게 이 기능이 확대 적용될 것이라고 밝혔다.
타코벨, 드라이브스루 음성 AI 주문 연내 수백 개 매장으로 확대
얌 브랜즈는 2024년 말까지 미국 내 수백 개 타코벨 드라이브스루 매장에 'Voice AI' 주문 시스템을 도입한다고 발표했다. 100여 개 매장에서 2년간 테스트를 거쳐 대기 시간 단축과 업무 경감을 노린다. 맥도날드가 관련 테스트를 중단한 것과 달리 적극적인 확장 행보다.
Vimeo, 음성 복제 지원 AI 영상 번역 기능 출시…29개 언어 지원
동영상 플랫폼 Vimeo가 화자의 원래 목소리와 톤을 그대로 복제해 번역해 주는 생성형 AI 영상 번역 솔루션을 출시했다. 50개 이상의 언어로 된 영상을 29개 언어로 변환할 수 있으며, 시청자는 플레이어에서 번역된 오디오를 직접 선택해 들을 수 있다. 글로벌 기업 교육 및 마케팅 현지화 비용을 대폭 절감해 줄 것으로 기대된다.
AI 목걸이 ‘Friend’ 공개: 생산성 대신 99달러짜리 정서적 동반자 지향
아비 쉬프만이 99달러짜리 AI 컴패니언 기기 ‘Friend’의 티저를 공개하고 사전 예약을 시작했다. 블루투스로 스마트폰과 연동되어 일상을 들으며 대화를 나누는 목걸이형 하드웨어로, 250만 달러 투자를 유치했으며 2025년 1월 배송된다.
엔비디아, 감정 표현하는 대화형 디지털 휴먼 '제임스' 공개
엔비디아가 SIGGRAPH에서 대화형 디지털 휴먼 '제임스(James)'와 Maxine 3D를 공개했다. 제임스는 엔비디아 ACE와 일레븐랩스 음성 기술을 바탕으로 유머와 감정을 섞어 실시간으로 대화한다. 일반 2D 인물 영상을 3D 아바타로 변환해 화상회의에 쓰는 Maxine 3D도 함께 선보였다.
머스크, 해리스 부통령 AI 딥페이크 영상 공유…X 자체 규정 위반 논란
일론 머스크가 카멀라 해리스 부통령의 음성을 변조한 AI 패러디 영상을 X에 공유했다. 원본에 있던 '패러디' 표기 없이 영상을 올려 허위 조작 미디어를 금지하는 X의 자체 규정을 위반했다는 비판과 함께 정치권의 거센 반발을 사고 있다.
프랑스 큐타이, 지연 시간 200ms 오픈소스 음성 AI '모시' 공개
프랑스 AI 연구소 큐타이가 실시간 음성 비서 '모시(Moshi)'를 시연하고 오픈소스로 공개한다고 밝혔습니다. 8명의 연구진이 개발한 이 모델은 지연 시간이 200ms에 불과하며, 인터넷 연결 없이 노트북 로컬에서도 자연스러운 양방향 대화가 가능합니다.
일레븐랩스, 소음과 음악 지우는 '보이스 아이솔레이터' 공개
일레븐랩스가 음성 분리 도구 '보이스 아이솔레이터'를 선보였다. 딥러닝 모델을 활용해 복잡한 주변 소음, 겹치는 대화 소리, 음악을 걷어내고 목소리만 깨끗하게 추출한다. 웹 브라우저에서 바로 쓸 수 있으며 매월 1만 크레딧이 제공된다.
ElevenLabs, 주디 갈랜드 등 전설적 배우의 AI 음성으로 책 읽어준다
ElevenLabs는 유산 관리 기관과 협력해 리더 앱에 주디 갈랜드, 제임스 딘 등 유명 고인의 AI 음성을 추가했다. 갈랜드의 목소리로 『오즈의 마법사』를 듣거나 로런스 올리비에의 낭독을 들을 수 있다. 다만 이 음성들은 앱 내 개인 스트리밍 청취 전용이며 제작물 생성 및 외부 반출은 제한된다.
타임지, 일레븐랩스와 손잡고 기사 AI 음성 낭독 도입
타임(TIME)은 일레븐랩스의 임베드 오디오 플레이어 'Audio Native'를 공식 웹사이트 일부 기사에 도입했다고 발표했다. 2023년 3월부터 이어진 양사의 협업 결과물로, 독자들은 텍스트 기사를 고품질 AI 음성으로 들을 수 있게 됐다.
캐릭터닷AI, 음성 통화 기능 출시…한국어 지원 및 실시간 끼어들기 가능
캐릭터닷AI(Character.AI)가 AI 캐릭터와 실시간 음성으로 통화할 수 있는 기능을 정식 출시했다. 한국어, 영어, 일본어 등 다국어를 지원하며 대화 도중 AI 말을 끊거나 텍스트로 자연스럽게 전환할 수 있다. 언어 연습이나 모의 면접에 유용하다.
피콕, 전설의 캐스터 목소리 AI로 복원해 맞춤형 올림픽 하이라이트 제공
NBC유니버설은 스트리밍 서비스 피콕에서 전설적 스포츠 캐스터 알 마이클스의 음성을 AI로 복제한 맞춤형 파리 올림픽 요약 서비스를 발표했다. 이용자가 선호 종목을 고르면 이름을 직접 부르며 일일 브리핑을 들려주며, 환각 오류를 막기 위해 모든 클립은 에디터의 검수를 거쳐 배포된다.
OpenAI, ChatGPT '고급 음성 모드' 출시 1개월 연기
OpenAI는 6월 말 소수 ChatGPT Plus 사용자 대상 출시 예정이던 '고급 음성 모드' 알파 테스트를 한 달 연기한다고 밝혔다. 유해 콘텐츠 거부 기능과 실시간 인프라를 보강해 가을 중 모든 Plus 사용자에게 제공할 계획이다.
일레븐랩스, AI 음성으로 글 읽어주는 '리더 앱' 출시
일레븐랩스가 모바일용 '리더 앱(Reader App)'을 공개했다. 기사나 PDF, ePub 문서를 자연스러운 AI 음성으로 변환해 들려준다. 첫 3개월간 무료로 쓸 수 있으며, 현재는 영어만 지원하지만 곧 29개 언어로 확장될 예정이다.
신세시아 2.0 발표: 웹캠으로 개인 아바타 제작, 손동작 지원 전신 모델 예고
신세시아(Synthesia)가 비디오 플랫폼 '신세시아 2.0'을 공개했습니다. 스튜디오 방문 없이 웹캠이나 스마트폰으로 개인 아바타를 만들고 30개 이상의 언어로 음성을 복제할 수 있습니다. 연내에는 손동작과 전신 제스처를 구사하는 차세대 아바타도 추가될 예정입니다.
틱톡, 맞춤형 광고 지원하는 '심포니 디지털 아바타' 및 AI 더빙 공개
틱톡이 광고 크리에이티브 설루션 심포니에 디지털 아바타와 AI 더빙 기능을 추가했다. 30개 이상 언어를 지원하는 상업용 사전 제작 아바타와 맞춤형 아바타를 지원하며, 10개 이상 언어로 자동 번역 더빙된다. 크리에이터와 브랜드는 반복 촬영 없이 글로벌 광고를 손쉽게 제작할 수 있다.
구글 딥마인드, 무음 영상에 효과음과 대사 입히는 'V2A' 기술 공개
구글 딥마인드가 비디오-투-오디오(V2A) 기술 연구 성과를 공개했다. 확산 모델을 기반으로 영상 픽셀과 텍스트 프롬프트를 분석해 수작업 정렬 없이 사운드트랙, 효과음, 대사를 영상과 자동 동기화한다. 현재 입 모양 동기화 등 개선 과제가 남아 있어 추가 안전성 검증을 거친 뒤 공개될 예정이다.