乔治·卡林遗产案和解:播客方同意永久下架 AI 仿造脱口秀
周二,已故传奇喜剧演员乔治·卡林的遗产委员会与播客 Dudesy 创作者达成和解。被告方同意全面下架并永久停用卡林的声音与肖像。该播客 1 月曾发布声称由 AI 仿造的一小时专场。这起案件作为美国首批名人深度伪造诉讼之一,为未经许可数字复活逝者划下红线。
周二,已故传奇喜剧演员乔治·卡林的遗产委员会与播客 Dudesy 创作者达成和解。被告方同意全面下架并永久停用卡林的声音与肖像。该播客 1 月曾发布声称由 AI 仿造的一小时专场。这起案件作为美国首批名人深度伪造诉讼之一,为未经许可数字复活逝者划下红线。
OpenAI 展示了语音克隆模型 Voice Engine 的小规模测试进展。该模型仅凭 15 秒音频样本就能复刻逼真且带情感的人声。由于担心深度伪造等滥用风险,官方暂不公开发布,并呼吁社会逐步淘汰银行等系统的语音身份验证。
ElevenLabs 宣布与 rabbit 达成合作,将其低延迟拟真人声模型接入随身设备 rabbit r1。用户按下按键直接说话,就能通过自然语音操作打车、点餐等任务。高质量语音的加入,让这台掌上 AI 助手听起来更像一个真人助理。
周四,美国田纳西州州长签署《ELVIS 法案》,成为全美首个立法保护艺术家免受未授权 AI 拟音侵权的州。新法案将公开权延伸至 AI 领域,明确禁止未经许可模仿歌手声音,法案定于 7 月 1 日正式生效。
机器人公司 Figure 展示了人形机器人 Figure 01 接入 OpenAI 模型的演示:机器人不仅能实时对话,还能听懂口头指令分拣物品,说话时甚至带有逼真的停顿。Figure 负责动作控制,OpenAI 提供视觉与语言能力,让大模型真正开始拥有物理实体。
Deepgram 推出实时文本转语音 API Aura。它把自然的人声模型与低延迟结合,通常在半秒甚至 0.3 秒内就能发声,每 1000 字符定价 0.015 美元。这让开发者能给大模型驱动的客服智能体装上能实时接话的声音。
周四晚,拜登在国情咨文演讲中呼吁立法禁止 AI 声音冒充伪造。但他并未细化具体监管措施或惩罚手段,也未明确是否覆盖文娱行业。此前好莱坞虽对声音复刻达成授权协议,但 AI 拟真声音已正式成为白宫重点防范的议题。
OpenAI 为 ChatGPT 推出「Read Aloud」朗读功能,覆盖 iOS、Android 应用及网页端。在移动端长按消息或在网页端点击对应图标,AI 就能把文字回答直接念出来。对于在路上或者需要解放双手的场景来说,这让文字聊天多了一种随时收听的使用方式。
Pika 推出 Lip Sync 功能,接入 ElevenLabs 提供配音,让视频角色的嘴型能与台词同步。它支持文本转语音或上传音频,省去了繁琐的后期外挂工具。不过该功能目前仅限 Pika Pro 付费用户和受邀测试者使用。
ElevenLabs 宣布与 Perplexity 达成合作,联手推出每日短音频播客《Discover Daily》。节目结合 Perplexity 的搜索内容引擎与 ElevenLabs 的 AI 语音,自动播报科技、创新与文化最新头条,已在各大播客平台上线。
2 月 22 日,AI 语音初创公司 ElevenLabs 宣布入选 2024 年迪士尼加速器计划。团队表示将借力迪士尼的创意资源,推进跨语言沟通技术的落地。这意味着其 AI 配音和声音技术,正快速向全球顶级影视娱乐生态渗透。
ElevenLabs 宣布多项应对 2024 年全球选举的防护措施。平台上线「禁克隆声音」防护机制,优先拦截美英大选候选人的声线克隆,并严禁利用 AI 语音进行冒充、打造政治聊天机器人或拨打自动骚扰电话,同时继续提供鉴别工具以追查音频来源。
NBA 总裁 Adam Silver 展示了实验性助手 NB-AI。球迷只需下达语音指令,就能个性化定制观赛画面,例如把正在进行的比赛实时转成「蜘蛛侠」卡通风格,或直接识别并购买球星脚上的球鞋。不过这项功能目前仍是概念演示。
Amazon 公布了目前最大的语音合成模型 BASE TTS,参数达 9.8 亿。研究显示,语音模型规模扩大后同样会出现类似大语言模型的「涌现能力」,无需额外训练就能更自然地拿捏情绪、耳语和生僻词发音。不过出于安全考虑,官方并未开源模型权重。
ElevenLabs 宣布创作者可通过 Voice Library 变现。用户只需上传 30 分钟音频创建专业声音克隆并共享,当付费订阅者调用该声音时即可获得现金奖励。平台还提供声音所有权验证、每日收益统计及内容审核保护。
美国联邦通信委员会(FCC)裁定将自动拨号电话中使用 AI 生成声音定为违法。新规将 AI 仿声纳入现有法律监管,赋予各州总检察长直接执法权,即使不证明具体诈骗罪名,单凭使用 AI 语音拨打即可追责。
本周,Roblox 上线基于自研大模型的实时 AI 聊天翻译功能,支持 16 种语言互译。韩国玩家输入韩语,英语或德语玩家能直接看到被实时翻译成本国语言的文字。该功能已接入所有使用 TextChatService 的游戏中,未来还计划拓展至语音实时翻译。
美国 FCC 提议将自动呼叫中使用 AI 声音克隆技术直接认定为违法。此前新罕布什尔州出现伪造拜登声音干预选举的电话,该提案拟将声音克隆归入既有法案的「人造声音」范畴,让执法部门起诉诈骗者时更直接、门槛更低。
Apple 在 iOS 17.4 测试版中为 Apple Podcasts 带来基于机器学习的自动转录功能。测试用户发现资料库里绝大多数节目都已生成逐字稿。不过通过外部 URL 添加的播客暂不支持,预计 3 月随正式版推送。
NBC News 报道称,新罕布什尔州初选前一通冒充拜登总统、劝选民不要投票的自动电话极可能是 AI 伪造的 Deepfake。检测机构表示该音频大概率被操纵。如今克隆政客声音门槛极低,而针对此类 AI 选举误导的法律监管仍存空白。