跳到正文
IFAI

AI科研

VFX Creator 框架:给静态图做特效,时间和位置都能精准控制

首次发布 传播指数 31

研究团队推出特效生成框架 VFX Creator 与 Open-VFX 数据集。用户只需输入静态图和文本,就能借助 Mask 遮罩指定生效区域,并输入时间戳精确控制特效在视频哪一秒发生。它包含 15 类常见特效,用极少训练数据就能实现时空维度的精准控制。

图:vfx-creator0.github.io

想让一张静止的照片动起来,比如让桌上的可乐罐突然爆炸、把好友的照片变成融化的冰淇淋,现在的视频模型基本能做到。但问题是,你很难控制它到底在第几秒炸,更管不住它炸的时候会不会把旁边的人脸也一起炸歪。

最近公开的 VFX Creator 就是奔着解决这种失控感来的。这是一套基于视频 Diffusion Transformer 的特效生成框架,配合开源的 Open-VFX 数据集,主打的就是把视觉特效的时空控制权抢回来。

像剪辑师一样定点、定时

传统的文生视频或者图生视频像在开盲盒,特效什么时候发生全凭运气。VFX Creator 的思路很简单:把控制拆成空间和时间两条线。

在空间层面,研究团队做了一个即插即用的掩码控制模块。说白了,就是结合了 ControlNet 和 LoRA,用户圈出哪个物体,特效就只作用在哪个实例上,背景和其他物体完全不受影响。

时间层面的控制更加细腻。他们把特效动作的起始和结束时间戳做成了 token,直接塞进文本编码器和扩散过程中,或者用时间掩码与时间步嵌入相结合。

这样一来,你可以直接告诉模型,让悬浮效果从第 8 帧也就是第 1 秒开始,一直持续到第 24 帧也就是第 3 秒结束。从演示看,它比 CogVideoX、LTX-Video 以及 Pika 等工具展现出了更规整的节奏感。

为了训练这套机制,团队还拿出了 Open-VFX 数据集,一口气打包了 15 种常见的趣味与影视特效。这其中包括压扁、融化、充气膨胀、泄气、切蛋糕化、爆炸,甚至还有变身黑毒液或小丑女等复杂变形效果,而且涵盖了人物、动物、商品和场景等多种主体。

为什么重要

我们认为,VFX Creator 最聪明的地方在于没有去重头硬卷一个庞大的底模,而是通过轻量级的 LoRA 适配器来给现有模型打补丁。对于特效师和独立创作者来说,以往做一个定点爆破或局部融化,要么在三维软件里耗费数小时搭资产,要么用 AI 反复抽卡,效率极低。如果能直接在静态概念图上圈选范围、掐准秒数生成预览,影视概念设计和短视频制作的门槛会被大幅拉低。

从行业角度看,这也给开源视频生成模型指明了方向。大模型的通用画质提升正在撞上边际效应,接下来谁能提供精确到帧、精确到像素级的工业级编辑接口,谁才能真正被专业管线接纳。

不过隐患也显而易见。目前数据集仅覆盖了 15 种预设特效,一旦用户需要现实工业流程中极其冷门的物理破碎或复杂烟雾,现有的 LoRA 泛化能力大概率还会捉襟见肘。如何从有限的 15 种预设走向开放指令集,是它接下来必须面对的硬仗。

来源 (1)

  1. [1]
    vfx-creator0.github.io(在新标签页打开)原文vfx-creator0.github.io

每日 AI 内容精选