Kling 提出 3D Move:把动作换给新角色,还能自由运镜
Kling 公布运动控制技术 3D Move。它能将视频中人物的动作迁移给真人或动漫新角色,并首次做到在动作迁移的同时自由控制镜头运镜与缩放,保持空间一致性与精细手势。目前该成果仅发布了研究论文,尚未明确是否开源或上线。

如果你玩过之前的 AI 动作迁移工具,应该很清楚它们的软肋:把一个人的舞步搬到另一个角色身上不难,但只要你想拉个远景或者绕着角色转一圈,画面立马就崩了。
以往的工具几乎全被锁死在原视频的原机位里。一旦镜头动起来,要么角色身体比例扭曲,要么四肢在空中诡异抽搐。
Kling 团队公布了一项名为 3D Move(论文代号 3DiMo)的运动控制技术。它第一次做到了在把动作迁移给新角色的同时,还能让创作者自由调度镜头,无论是旋转、缩放还是俯视环绕,画面都能保持严丝合缝的空间一致性。
摆脱骨骼绑架的隐式运动控制
市面上现有的动作迁移工具,比如 OneAnimate 或 Scale,要么直接依赖二维姿态估计,要么套用像 SMPL 这样的显式 3D 参数模型。
问题在于,二维姿态把运动硬生生绑死在原始拍摄视角上,根本没办法无中生有造出新视角。而显式 3D 人体模型虽然有结构,但往往存在深度模糊和动态误差,把这种生硬的外部骨架强行套给视频大模型,反而压制了模型自己对 3D 空间的理解。
3D Move 的思路很聪明,它做的是一种与视角无关的「隐式运动表征」。
研究团队训练了一个运动编码器,把驱动视频直接提炼成轻量化的运动 token,再通过交叉注意力机制注入预训练的视频生成器中。为了让模型拥有真正的三维空间感,他们给模型喂了单视角、多视角以及移动镜头等丰富视角的视频数据进行联合监督。
至于传统的 SMPL 3D 骨骼,团队只在最初阶段用来辅助初始化,随后便逐渐将其权重退火降到零。也就是说,模型学会的是真正的三维空间运动逻辑,而不是照着僵硬的木偶骨架描摹。
复杂手势与动漫角色全吃得下
从目前展示的效果来看,3D Move 的还原精度相当扎实。哪怕是极容易露馅的手指动作和面部微表情,模型都能稳稳接住。
它不仅能处理真人视频,还能直接把动作套用到二次元角色或者 3D 动画形象上。用户可以通过文本提示词直接发号施令,让镜头完成各种复杂的平移、推拉或者环绕运镜。
在一个二次元角色的展示案例里,当镜头从低处向上摇动时,画面甚至在前景色里自然地加上了一枝随风飘动的樱花。这种生成器内生的空间先验,是以往机械拼接动作和画面的工具完全做不到的。
不过,目前这项研究只放出了技术论文,快手方面尚未明确何时将其整合进 Kling 产品或是否会开源代码。
为什么重要
在生成式视频领域,动作迁移和镜头控制长期以来就像鱼和熊掌不可兼得。创作者想做一段带有专业分镜运镜的舞蹈或打斗短片,往往得在 3D 建模软件和视频工具之间反复折腾。
3D Move 的突破在于,它证明了视频大模型内部其实蕴含着极其丰富的空间常识。以往大家总想着靠外部加外挂、绑骨骼来教 AI 认路,反而把模型的长处给封死了。用隐式 token 加上视角退火训练,把空间理解的主导权交还给底座模型,这一步技术路径走得非常漂亮。
对于动画师、短剧团队和独立创作者来说,一旦这项能力实装上线,分镜调度的自由度将被彻底打开。你不再需要到处寻找特定机位的动作素材,一个固定视角的日常跑步视频,就能变成电影级别的大范围轨道环绕镜头。
但目前它依然只停留在论文阶段。我们认为,从实验室的多卡训练到让普通用户在网页端低成本实时调镜头,工程化和算力开销是快手接下来必须跨过的一道坎。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org