跳到正文
IFAI

AI科研

EditYourself 视频编辑利器:改说话内容消除卡壳,无缝对齐口型

首次发布 传播指数 36

Pipio AI 等研究团队推出视频编辑框架 EditYourself。它能直接修改视频中人物说话的内容,自动消除卡壳口吃,并无缝对齐口型且不留硬切痕迹。这意味着视频后期能像改文字一样编辑台词,但也让深度伪造更难分辨。

EditYourself 视频编辑利器:改说话内容消除卡壳,无缝对齐口型
图:quantumzeitgeist.com

录过口播或者演讲视频的人都懂,最让人崩溃的往往不是记不住词,而是录到一半突然卡壳、结巴了一下。

按传统的剪辑办法,你把结巴那半秒剪掉,画面肯定会猛地跳一下,也就是让人出戏的「硬切」。要是不想留硬切,就只能重录一遍,或者找素材盖上去。

来自 Pipio AI 的 John Flynn、Wolfgang Paier、Dimitar Dinev,与 Sam Nhut Nguyen 等多位研究者发布了视频编辑框架 EditYourself,想要彻底改变这套后期流程。

像改 Word 文档一样改视频

EditYourself 做的事情说白了很简单:它让视频剪辑变得像修改文本文档一样直观。

只要在文字转录稿里删掉卡壳的字词,或者直接换上一句全新的台词,AI 就会自动根据新音频重新生成对应的口型与面部运动,并且无缝拼回原视频里。

在研究展示的例子里,奥巴马演讲时有多次犹豫和卡壳。传统手动剪辑去掉这些卡顿后画面跳动明显,而 EditYourself 去除卡壳后,人物动作和表情过渡非常自然,完全看不出拼接痕迹。

更厉害的是,它不仅能修剪掉「who who has...」这类结巴短句,还能直接往原视频里插入原本没说过的全新句子,或者删改整段内容,同时保持原主体的身份特征和光影连贯。

140 亿参数模型,拆成两趟跑

目前的视频生成模型大多擅长从头画一段新视频,但在已有视频上做局部微调时,人物容易变脸,背景也会晃动。EditYourself 是怎么稳住画面的?

它的底层基于 140 亿参数的 LTX-0.9.7 扩散变换器(DiT)以及配套的 Video-VAE,在 32×32×8 压缩率的潜空间里进行微调。视频生成采用两趟渲染机制,先在粗糙表征上完成初步去噪,再通过学习上采样进行高分辨率去噪。

为了保证口型严丝合缝,团队设计了两阶段训练方案和窗化音频调节策略。这套方案不用对音频特征做降采样,也不受视频原始帧率的限制。

面对长视频中容易出现的脸部变形和时序漂移问题,他们引入了名为「前后向 RoPE 条件调节」的参考身份机制,并结合 TeaCache 感知推理,让长片段里的角色外貌始终保持稳定。

为什么重要

对于内容创作者和视频制作团队来说,EditYourself 带来的最大改变是工作流的颠覆。过去的规则是「脚本必须完美才能开机」,现在变成了「先拍一遍,台词后面再改」。哪怕录制后发现某句话说错了、事实数据需要更新,或者需要为不同渠道定制不同版本,都不需要把演讲者重新请回影棚,敲几下键盘就能完成修正。

这一特性如果进一步接入大语言模型,完全有可能让 AI 智能体自主接管粗剪和去口水词的工作,把后期剪辑的枯燥环节大幅压缩。

不过,这种技术的门槛降低也伴随着显而易见的隐患。能够无缝替换台词、甚至凭空插入一整句话,意味着深度伪造的制作成本再次断崖式下跌。以前靠看口型跳变、听音频瑕疵来辨别真伪的经验正在迅速失效。我们认为,在商业剪辑软件迅速集成这项功能的同时,行业必须尽快在生成的每一帧里建立可靠的数字水印与溯源标准,否则假视频带来的信任危机只会比现在更棘手。

来源 (1)

  1. [1]

每日 AI 内容精选