跳到正文
IFAI

AI科研

Snap 推出 Set-and-Sequence:单段视频即可定制角色与动作

首次发布 传播指数 31

2025 年,Snap Research 提出文生视频个性化框架 Set-and-Sequence。它把动态概念拆解成学外观的无序帧集合与学运动的时序序列,通过两步 LoRA 训练,让 DiT 模型只靠单段视频就能同时复刻角色的外貌与特定动作并自由组合。

图:snap-research.github.io

教 AI 画一只你家的小狗很容易,但要教它学会小狗特有的甩头动作,之前几乎行不通。

在图像时代,大家习惯用几个画面做个性化微调,模型只要记住长相就行。可视频不一样,很多东西的灵魂不是长相,而是动作。Snap Research 最近拿出了一项新研究,试图解决文生视频里的这个老难题,他们把这种兼具长相和动作的对象叫作「动态概念」。

把长相和动作拆成两头算

传统的静态个性化只盯外观,但动态概念必须同时吃透外观和动作。

Snap Research 的思路很巧妙,他们做了一个叫 Set and Sequence 的框架,在基于 DiT 的视频生成模型里建立了一套时空权重空间。

说白了,他们把一个动态概念直接拆成了两个部分。一部分是 Set,也就是把视频抽成一堆乱序的静态帧,专心用来代表长相。另一部分是 Sequence,也就是连贯播放的完整视频,用来专门记录动作。

训练也顺理成章分成了两步。第一步是 LoRA 集合编码,先拿那堆乱序图片去训练 LoRA,让模型先把外观死死记住。

第二步是 LoRA 序列编码。这时候团队把第一步学出来的 LoRA 基底直接冻结住,再去连贯视频上跑训练,用新学到的系数去叠加增强。这样一来,模型既不会把刚学会的长相搞乱,又能顺理成章地把这套招牌动作学到手。

为什么重要

在视频生成领域,大家过去微调模型总会遇到一个两难:要么动作学到了但脸崩了,要么脸认准了但动起来千篇一律。

Snap 这次聪明的地方,在于看穿了外观和动态在特征空间里的互斥性。很多团队试过把视频当成一个整体硬塞给模型去拟合,往往顾此失彼。Snap 把无序图像和时序动态解耦,先锁死静态底子再叠加动态系数,从工程逻辑上显得非常干净。

对创作者来说,这项技术的实用价值显而易见。如果以后这项能力落地,你只要拿一段自己宠物或者特定角色的日常小视频,就能让 AI 在全新场景里一边保持原貌,一边做出它标志性的招牌动作,甚至把特定角色的动作迁移到其他物体上。

不过就目前公开的成果来看,这依然停留在学术论文与算法验证阶段,暂时没有开放普通人能随手用的工具或插件。此外,从单段视频里解耦动作和外观到底能在复杂背景下做到多干净,也是未来真正产品化时需要面对的考验。

来源 (1)

  1. [1]
    snap-research.github.io(在新标签页打开)原文snap-research.github.io

每日 AI 内容精选