D-ID 推出视频翻译工具:自带声音克隆与嘴型同步,支持 30 种语言
D-ID 推出视频翻译工具 AI Video Translate,不仅能把视频翻译成 30 种语言,还能克隆原作者声音并自动匹配嘴型。该功能由专有模型 Rosetta-1 驱动,向订阅用户开放免费试用,支持 10 秒至 5 分钟的单人出镜视频。
还记得前几年在社交网络上刷屏的「让老照片开口说话」吗?那阵风潮背后的推手 D-ID,如今把目光投向了更实用的跨国视频传播场景。
AI 视频生成平台 D-ID 宣布推出全新的视频翻译工具 AI Video Translate。它不单单是把原视频的语音转成外语,还会克隆主讲人的声音,同时自动调整画面里人物的唇形,让说话动作和翻译出来的外语完全对上号。
这套功能背后依赖的是 D-ID 自研的专有模型 Rosetta-1。目前这项翻译能力已经集成到了 D-ID Studio 和 API 接口中,支持包括中文普通话、阿拉伯语、日语、印地语、西班牙语和法语在内的 30 种语言。平台还为用户提供了一个月的试用期。
5 分钟限制与单人出镜规则
想要用上这项工具,D-ID 也划出了一些具体的门槛。
视频长度必须在 10 秒到 5 分钟之间,文件体积不能超过 2GB。另外,画面中只能出现一个人,而且最好全程正脸面对镜头,面部不能被遮挡,才能保证唇形匹配的效果。
在价格方面,这项功能目前面向 D-ID 的付费订阅用户免费开放。D-ID 的订阅方案起步价为每年 56 美元,包含最基础的 AI 点数额度;更高级的版本可达每年 1293 美元,再往上则是针对大客户的企业定制价格。
这家初创公司在 2022 年就完成了 2500 万美元的 B 轮融资,当时的目标就是为了更好地服务正在快速增长的美国企业客户,帮他们在营销、娱乐和社交媒体传播中降低本地化成本。
扎堆的音视频本地化赛道
视频配音过去一直是个昂贵且门槛极高的活儿,但这两年正迅速被 AI 改造。比如 YouTube 之前推出的多语言音频功能,知名网红 MrBeast 就曾用它把多期热门视频分发成了 11 种语言。
不过,随着开源唇形同步库(例如 Wav2lip)的普及,入局这门生意的选手越来越多。微软今年宣布将支持在用户观看视频时实时进行 AI 翻译配音;Vimeo 也在 7 月上线了支持克隆声音的翻译工具。
此外,市面上还有 ElevenLabs、Descript、Speechify、Veed、Captions.ai、Camb.ai、Akool,以及主打数字人跨语言表达的 HeyGen 和 Deepbrain AI。D-ID 面临的是一个极度拥挤的竞争环境。
为什么重要
对于个人创作者和出海营销团队来说,翻译、克隆声音加对口型的一体化方案,确实大幅缩短了内容出海的周期。以前请专业译配团队费时费力,现在一个人就能把讲解类视频铺向多语种市场,订阅门槛也不算高。
但从产品限制来看,它目前还只适合讲台式的出海场景:5 分钟的时长上限、严格限定单人正脸面对镜头。这意味着访谈、情景剧、多人互动类内容基本无法使用,实用范围相对有限。
在行业层面,这类工具正在把「跨语言传播」变成基础标配功能,逼得各大平台加速将配音与唇形调整内化。不过,我们认为 D-ID 现在的处境谈不上高枕无忧。前面有像 ElevenLabs 这样在语音克隆上表现突出的选手,侧面有 HeyGen 这样深度把持跨语种数字人场景的劲敌,后方还有开源工具的追赶。自研 Rosetta-1 模型能否在唇形自然度和多语种情绪还原上拉开真正差距,才是它能否留住企业客户的关键。
来源 (1)
- techcrunch.com(在新标签页打开)原文techcrunch.com