OpenAI 发布 GPT-4o 系统卡:说服力达中等风险,语音重点防伪造
OpenAI 正式发布 GPT-4o 系统卡片与安全评分。在四项核心准备度评估中,生物威胁、网络攻击与自主性均为低风险,仅说服力被评为中等;针对端到端语音带来的声音伪造、版权等新隐患,团队动用 100 多名跨国红队进行了多轮对抗测试并内置拦截。
OpenAI 正式发布 GPT-4o 系统卡片与安全评分。在四项核心准备度评估中,生物威胁、网络攻击与自主性均为低风险,仅说服力被评为中等;针对端到端语音带来的声音伪造、版权等新隐患,团队动用 100 多名跨国红队进行了多轮对抗测试并内置拦截。
Amazon Music 推出基于 AI 的 Topics 功能。该功能借助 AWS 技术分析播客转录文本与描述,提炼单集涉及的核心话题标签。用户点击标签即可直接浏览讨论同一主题的其他单集,目前已在移动端的热门播客中开放。
据彭博社和《纽约时报》报道,Meta 正斥资数百万美元与朱迪·丹奇、奥卡菲娜等明星洽谈,计划购买其声音版权用于 Meta AI 助手。这批语音预计在 9 月的 Connect 大会亮相,并覆盖 Instagram 及 Ray-Ban 智能眼镜等平台。
据 The Verge 报道,OpenAI 近日向部分 ChatGPT Plus 用户小范围开放了高级语音模式。网络流出的实测视频显示,它能模仿机长广播音效、用不同方言讲故事、纠正法语发音甚至唱歌。OpenAI 表示该功能将在今年秋季向所有 Plus 用户开放。
百胜餐饮宣布将在 2024 年底前把「Voice AI」点餐推向全美数百家 Taco Bell 得来速门店。该系统已测试约两年,旨在减少漏单并缩短排队时间。虽然麦当劳此前叫停了类似测试,但百胜显然打算继续押注。
Vimeo 推出基于生成式 AI 的视频翻译工具,不仅能转译音频和字幕,还能克隆原发言人的音色与语调。该功能支持 50 多种原语言输入并输出为 29 种语言,观众能在播放器中直接切换音轨,大幅降低了企业跨国培训和出海营销的本地化成本。
开发者 Avi Schiffmann 发布 AI 伴侣硬件 Friend 的预告片并开启预订。这款 99 美元的项坠通过蓝牙连手机全天候倾听,主打情感陪伴而非生产力,已获 250 万美元融资,预计 2025 年 1 月发货。
NVIDIA 在 SIGGRAPH 预览了交互式数字人「James」以及 Maxine 3D 等技术。James 基于 NVIDIA ACE 与 ElevenLabs 语音打造,能带情绪和幽默感进行实时交互。最关键的是,普通 2D 视频肖像现可通过 Maxine 3D 快速生成 3D 数字人化身。
周五,马斯克在 X 上转发了一段伪造副总统哈里斯声音的 AI 竞选恶搞视频,并配文「太赞了」。因未保留原推文中的「恶搞」免责标识,该帖被指违反 X 自身禁止误导性合成媒体的平台政策,引发多名官员谴责。
法国非营利 AI 实验室 Kyutai 展出实时语音助手 Moshi 并宣布开源。它仅由 8 人团队耗时半年研发,端到端延迟低至 200 毫秒,支持 70 种情绪,还能在笔记本本地边听边说。
ElevenLabs 推出音频分离工具 Voice Isolator。它基于专有深度学习模型,能从杂乱环境音、交谈声或音乐中提取纯净人声,支持 WAV、MP3 等多种格式。用户每月可获得 1 万点额度,无需安装插件就能在浏览器里直接处理。
ElevenLabs 宣布在 Reader App 中引入朱迪·加兰、詹姆斯·迪恩、伯特·雷诺兹等已故影星的 AI 声音。用户可以用加兰的声音听《绿野仙踪》,或让劳伦斯·奥利弗爵士朗读《福尔摩斯》。不过这些经典声音仅限个人在 App 内流式收听,不能导出用于内容创作。
TIME 宣布在 TIME.com 上线 ElevenLabs 的 Audio Native 播放器,为精选报道提供自动语音旁白。双方从 2023 年 3 月开始接触,现在读者可以直接用耳朵听新闻,无需盯屏阅读。
Character.AI 宣布面向全部用户上线实时语音通话功能,支持中文、英文、日文等多种语言。用户一键即可与 AI 角色双向对话,并支持随时打断与文字无缝切换,适合用来练口语或模拟面试。
NBCUniversal 宣布将在 Peacock 平台推出「Your Daily Olympic Recap」,用 AI 克隆传奇解说员 Al Michaels 的声音播报定制奥运集锦。用户输入名字并选定偏好运动后,每天能听到叫得出自己名字的专属战报。官方预计生成近 700 万种变体,并安排人工编辑审听防翻车。
OpenAI 宣布原定 6 月底向少量 ChatGPT Plus 用户推出的高级语音模式 Alpha 测试推迟一个月。官方表示需要时间提升内容拦截能力并优化承载架构,预计秋季向所有 Plus 用户开放。
ElevenLabs 推出移动端 Reader App。它能把手机里的文章、PDF、ePub 和邮件通讯转换成高拟真的 AI 语音朗读,支持多种音色与口音。应用已上线 iOS 和 Android,前 3 个月免费,目前仅支持英语,后续将拓展至 29 种语言。
Synthesia 推出企业级视频平台 Synthesia 2.0。新版本不仅支持用手机或摄像头录制专属数字人,并同步复刻 30 多种语言音色,还展示了今年晚些时候上线的带手势全身数字人。企业做培训和演示不用再约影棚,对着摄像头录一段就能批量生成视频。
TikTok 推出广告 AI 工具 Symphony 数字人分身与 AI 配音功能。该工具提供支持 30 多种语言的预制授权数字人及定制分身,配合配音可将视频转译为 10 多种语言。这意味着创作者和品牌无需重复实拍,就能低成本规模化出海投放。
Google DeepMind 公布视频转音频(V2A)技术研究进展,能结合视频画面与文本提示生成同步声音。该系统基于扩散模型,无需手动对齐即可为静音视频或老胶片搭配配乐、拟音与台词。不过目前口型同步等仍有局限,模型尚未公开发布。