ElevenLabs 收紧语音克隆:4chan 伪造名人发声,官方拟引入实名制
ElevenLabs 表示其语音克隆测试版遭到恶意滥用,4chan 上出现了大量利用该工具伪造艾玛·沃森等名人声音的违规音频。ElevenLabs 称正探索更严格的防护手段,考虑引入支付绑定、身份实名认证或人工逐一审核。
ElevenLabs 表示其语音克隆测试版遭到恶意滥用,4chan 上出现了大量利用该工具伪造艾玛·沃森等名人声音的违规音频。ElevenLabs 称正探索更严格的防护手段,考虑引入支付绑定、身份实名认证或人工逐一审核。
据 Axios 报道,初创公司 Truleo 开发的 AI 系统正被西雅图等全美多家警局采用。该平台每日自动转录分析执法记录仪音频,能秒级识别辱骂、暴力及「我无法呼吸」等高危语句并上报主管。加州阿拉米达警局试用后武力使用率下降 36%,每名警员月成本约 50 美元。
据世界经济论坛报道,非营利组织 Earth Species Project 等团队正利用 AI 解析动物声音及生态声学数据,尝试破译动物之间的沟通方式。研究人员表示,这项研究旨在理解动物需求以辅助生态保护,并尝试实现双向跨物种沟通。
ElevenLabs 宣布推出全新生成式语音功能。用户只需设定性别、年龄、口音和说话风格等基础参数,点击生成就能得到一段此前完全不存在的全新人声。该功能预计 2 月在 Voice Lab 正式上线。
微软公布文本转语音模型 VALL-E。它仅凭 3 秒音频就能模拟说话者的音色、情感甚至房间声学环境。模型基于 Meta 音频库中 6 万小时语音训练,因防范声音冒充等滥用风险,微软目前未开源代码。
MIT CSAIL 团队公布一种多模态表征学习方法,让 AI 能在共享嵌入空间里对齐视频、音频和文本,仅用 1000 个词向量就能识别视频中的动作。最值得关注的是,这种设计提升了跨模态检索准确度和可解释性。不过模型目前一次只能处理两种模态。
据 The Guardian 报道,Apple Books 商店开始上架标有「Narrated by Apple Books」的 AI 旁白有声书。Apple 针对不同图书题材匹配了专属 AI 音色,目前支持小说、言情和部分非虚构作品。虽然制作仍需人工审核且耗时一至两个月,但它大幅降低了有声书制作成本。
NVIDIA 开放 Omniverse Avatar Cloud Engine(ACE)抢先体验。该服务将 Audio2Face 面部动画与 Riva 语音合成打包为云原生微服务,支持虚幻引擎 MetaHuman 与 Ready Player Me。开发者无需本地重型算力,即可在云端快速生成可交互的 3D 数字人与虚拟助手。
2022 年底,韩国公司 DeepBrain AI 推出 Re;memory 付费服务。该技术结合照片、视频与预先采访数据,通过图像合成和语音识别构建虚拟人,让家属在 400 英寸大屏体验馆内进行 30 分钟实时视频对话,弥补未尽的告别。
AI 视频平台 Synthesia 利用梅西 5 分钟的真实片段,生成了他用流利英语等 10 种语言发言的合成视频。嘴型与发音高度贴合,引得球迷惊呼「逼真到可怕」。梅西在现实中极少公开讲英文,这也体现了深度学习人像合成跨越语言隔阂的能力。
VentureBeat 发文分析深度学习对元宇宙的核心推动作用。从眼球追踪、3D 重建到 Meta 的实时语音翻译,深度神经网络正在补齐虚拟世界的基础交互;更关键的是,生成式聊天机器人让虚拟品牌代表摆脱死板脚本,实现更自然的实时对话。
Dialpad 宣布成立 AI Labs,并承诺未来五年投入 5000 万美元推进 AI 研发。这笔资金将重点用于客户流失与满意度预测,以及自动向 CRM 追加记录等工作流自动化。也就是说,Dialpad 正加速把实时语音识别能力扩展为更深度的企业决策与效率工具。