跳到正文
IFAI

开源项目

ID Laura 开源:单模型搞定数字人生成,音画同步还能带环境音

首次发布 传播指数 48

一体化数字人模型 ID Laura 开源。它基于 LTX 2.3,改变了以往先克隆声音再匹配口型的两段式做法,只需输入单张人像、参考音频和台词,就能由单个模型同步生成视频、克隆语音与环境音。目前运行至少需 24GB 显存,推荐 48GB。

ID Laura 开源:单模型搞定数字人生成,音画同步还能带环境音
图:arxiv.org

过去做一段逼真的数字人视频,流程有多折磨人,做过内容的朋友应该都深有体会。

你得先找个语音克隆工具,把目标人物的声音调出来。接着找一个视频生成模型,让画面里的人动起来。最后还要套一层口型同步算法,把声音强行往嘴型上贴。

这种两段甚至三段式的拼凑方案,结果往往非常割裂。嘴唇像是在念经,说话的重音和身体动作完全对不上,而且四周安静得像真空,毫无现场氛围。

3 月 10 日开源的 ID Laura,想要彻底干掉这种打补丁的做法。它把视频、克隆声音和现场动效,揉进了同一个模型里。

告别拼图,一张图一段音频直接一步到位

ID Laura 在学术论文里被称为 ID-LoRA。它的思路非常直接:既然人说话时本来就是音画一体的,为什么生成模型非要分开做?

它基于开源的 LTX 2.3 音视频扩散骨干网络,通过上下文 LoRA(In-Context LoRA)架构,实现了真正的单次生成。

用起来很简单,你只需要给它一张目标人物的照片、一段几秒钟的原声参考音频,再加上提示词和你想让他说的台词。

模型在生成画面的那一刻,就在同步生成这个人的克隆语音、说话口型,甚至包括肢体动作与背景环境声。

比如提示词里写了「敲击桌面」或者「远处树木倒塌」,生成的视频里不仅能看到动作,耳边还会精准出现对应的音效,完全不需要后期再去配音轨。

巧妙解决位置编码,3000 对数据就能驯服

把图像和音频塞进同一个扩散模型,技术上其实有两个大坑。ID Laura 的团队用了很巧妙的办法填平了它们。

第一个难点是参考特征和生成内容打架。因为它们共享同一个位置编码空间,模型很容易分不清谁是参考、谁是新生成的。

团队引入了负时间位置机制,把参考标记放在不相交的 RoPE 编码区域,既保住了时序结构,又彻底解决了混淆。

第二个难点是声音特征容易被稀释。在一步步去噪的过程中,说话人的独特音色经常越变越淡,最后沦为大众脸音色。

他们设计了一种叫做「身份引导」的分类器自由引导变体,通过对比有无参考信号的预测差异,硬生生把个人音色特征给放大了。

更让人意外的是训练成本。这个方案仅仅用了一张 GPU 和大约 3000 对训练数据,就完成了调优。

在人工盲测中,面对 Kling 2.6 Pro 这样的商业强手,73% 的人认为 ID Laura 的声音相似度更高,65% 觉得说话风格更自然。在复杂环境背景下,它的音色保持度比 Kling 提升了 24%。

不过,天下没有免费的午餐。目前在本地跑这个模型,门槛依然不低,至少需要 24GB 显存,官方推荐直接上 48GB 显卡。

为什么重要

我们认为,ID Laura 踩准了生成式 AI 演进的必然方向:多模态终究要从「结果拼接」走向「原生统一」。

对自媒体作者、独立开发者和游戏团队来说,一体化生成意味着工作流的断崖式简化。以往要开三个网页、调四次参数的繁琐流程,现在变成了单次推理,省下的不仅是时间,还有音画脱节带来的巨大废片率。

对行业而言,它给商用视频大模型敲了一记警钟。过去大厂比拼画质、比拼时长,但在视听联动的物理真实感上,几乎都在走拼装路线。ID Laura 证明了,即便只有几千对数据,单模型的内生一致性也能在体验上反超复杂的拼凑管线。

不过,它的短板同样清晰。24GB 显存的底线把普通消费级玩家挡在门外,它目前更适合有专业工作站的极客或小型工作室先尝鲜。此外,如此低门槛的端到端深度伪造能力,也势必会给防伪与安全鉴伪带来新一轮压力。

来源 (1)

  1. [1]

每日 AI 内容精选