Kling 提出 3D Move:把動作換給新角色,還能自由運鏡
Kling 公佈運動控制技術 3D Move。它能將影片中人物的動作遷移給真人或動漫新角色,並首次做到在動作遷移的同時自由控制鏡頭運鏡與縮放,保持空間一致性與精細手勢。目前該成果僅釋出了研究論文,尚未明確是否開源或上線。

如果你玩過之前的 AI 動作遷移工具,應該很清楚它們的軟肋:把一個人的舞步搬到另一個角色身上不難,但只要你想拉個遠景或者繞著角色轉一圈,畫面立馬就崩了。
以往的工具幾乎全被鎖死在原影片的原機位裡。一旦鏡頭動起來,要麼角色身體比例扭曲,要麼四肢在空中詭異抽搐。
Kling 團隊公佈了一項名為 3D Move(論文代號 3DiMo)的運動控制技術。它第一次做到了在把動作遷移給新角色的同時,還能讓創作者自由排程鏡頭,無論是旋轉、縮放還是俯視環繞,畫面都能保持嚴絲合縫的空間一致性。
擺脫骨骼綁架的隱式運動控制
市面上現有的動作遷移工具,比如 OneAnimate 或 Scale,要麼直接依賴二維姿態估計,要麼套用像 SMPL 這樣的顯式 3D 引數模型。
問題在於,二維姿態把運動硬生生綁死在原始拍攝視角上,根本沒辦法無中生有造出新視角。而顯式 3D 人體模型雖然有結構,但往往存在深度模糊和動態誤差,把這種生硬的外部骨架強行套給影片大模型,反而壓制了模型自己對 3D 空間的理解。
3D Move 的思路很聰明,它做的是一種與視角無關的「隱式運動表徵」。
研究團隊訓練了一個運動編碼器,把驅動影片直接提煉成輕量化的運動 token,再通過交叉注意力機制注入預訓練的影片生成器中。為了讓模型擁有真正的三維空間感,他們給模型餵了單視角、多視角以及移動鏡頭等豐富視角的影片資料進行聯合監督。
至於傳統的 SMPL 3D 骨骼,團隊只在最初階段用來輔助初始化,隨後便逐漸將其權重退火降到零。也就是說,模型學會的是真正的三維空間運動邏輯,而不是照著僵硬的木偶骨架描摹。
複雜手勢與動漫角色全吃得下
從目前展示的效果來看,3D Move 的還原精度相當紮實。哪怕是極容易露餡的手指動作和麵部微表情,模型都能穩穩接住。
它不僅能處理真人影片,還能直接把動作套用到二次元角色或者 3D 動畫形象上。使用者可以通過文本提示詞直接發號施令,讓鏡頭完成各種複雜的平移、推拉或者環繞運鏡。
在一個二次元角色的展示案例裡,當鏡頭從低處向上搖動時,畫面甚至在前景色裡自然地加上了一枝隨風飄動的櫻花。這種生成器內生的空間先驗,是以往機械拼接動作和畫面的工具完全做不到的。
不過,目前這項研究只放出了技術論文,快手方面尚未明確何時將其整合進 Kling 產品或是否會開原始碼。
為什麼重要
在生成式影片領域,動作遷移和鏡頭控制長期以來就像魚和熊掌不可兼得。創作者想做一段帶有專業分鏡運鏡的舞蹈或打鬥短片,往往得在 3D 建模軟體和影片工具之間反覆折騰。
3D Move 的突破在於,它證明了影片大模型內部其實蘊含著極其豐富的空間常識。以往大家總想著靠外部加外掛、綁骨骼來教 AI 認路,反而把模型的長處給封死了。用隱式 token 加上視角退火訓練,把空間理解的主導權交還給底座模型,這一步技術路徑走得非常漂亮。
對於動畫師、短劇團隊和獨立創作者來說,一旦這項能力實裝上線,分鏡排程的自由度將被徹底開啟。你不再需要到處尋找特定機位的動作素材,一個固定視角的日常跑步影片,就能變成電影級別的大範圍軌道環繞鏡頭。
但目前它依然只停留在論文階段。我們認為,從實驗室的多卡訓練到讓普通使用者在網頁端低成本即時調鏡頭,工程化和算力開銷是快手接下來必須跨過的一道坎。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org