Domain Shuttle:輸入參考圖生成影片,多角色跨風格也能保持一致
開源影片生成專案 Domain Shuttle 釋出,支援輸入多張參考圖生成影片並保持主體一致。它能把真人、2D 動漫和 3D 角色放進同一場景互動,還支援通過文本跨風格轉換。模型基於 Wan 2.2 構建,權重約 35GB,已在 GitHub 開原始碼。

玩過 AI 影片生成的人大概都體會過這種痛苦:上一秒還是個清秀主角,切個鏡頭就換了張臉;如果想讓一個 2D 動漫角色和真人同框互動,畫面通常會當場崩壞成四不像。
香港科技大學團隊開源了一個名為 Domain Shuttle 的主體驅動影片生成專案。它的核心賣點很簡單:只要給它幾張參考圖,模型就能在生成連續影片時,牢牢鎖住角色的長相和特徵,甚至能輕鬆應對跨風格的極端場景。
讓真人、2D 動漫和 3D 全息同臺飆戲
以往基於參考圖的影片生成工具,大多隻能做同風格的復刻。你給一張真人照片,它生成一段寫實影片;一旦提示詞要求把場景變成動畫,角色往往就徹底變形了。
Domain Shuttle 走了一條完全不同的路,它主打的就是跨風格穿梭。在官方給出的演示中,你可以同時輸入一張真人照片、一個 2D 動漫形象和一個 3D 模型,模型能把這三種完全不同畫風的角色合併到同一個影片裡,彼此還能自然互動。
更讓人眼前一亮的是它對細節的控制力。你可以讓一個寫實風格的男人看著牆上的 2D 塗鴉女孩,也可以讓一個 3D 全息投影角色圍繞真人交談。甚至在一個高難度測試裡,模型成功把一張 2D 插畫無縫貼在了女人手中拿著的杯子上,隨著鏡頭移動依然保持穩定。
這一切背後的技術核心在於解耦。研究團隊提出了 Domain-MoT 架構和雙空間 RoPE 方案,把參考圖裡的核心身份特徵與具體的風格屬性拆開處理,讓模型既記住了這是誰,又不會被原本的畫風綁架。
不過想在本地玩轉它並不容易。Domain Shuttle 基於開源影片大模型 Wan 2.2 構建,光是模型權重就達到了 35GB,普通家用電腦基本跑不動,必須配備高階專業顯示卡。目前程式碼和權重已經全部在 GitHub 上開放下載。
為什麼重要
我們認為,Domain Shuttle 踩準了影片生成落地最卡脖子的痛點。現在的影片模型不缺天馬行空的想像力,缺的是對特定主體的控制力。
對於做短影片創作、虛實結合廣告以及 UGC 內容的團隊來說,這種能力價值極大。以往為了讓一個虛擬 IP 出現在不同現實場景裡,需要複雜的 3D 建模、渲染和後期合成。現在只需要提供設定圖,用純文本提示詞就能生成風格統一的多鏡頭素材,製作門檻被大幅拉低。
從行業競爭來看,這也給開源影片生成生態打了一劑強心針。它直接站在 Wan 2.2 這個成熟基座之上做二次創新,證明了開源社群不需要從零燒錢訓基座,靠架構最佳化同樣能做出超越主流商業工具的控制精度。
當然,35GB 的體量和高視訊記憶體門檻,註定它暫時還是專業開發者和極客的玩具。但在影視分鏡預演和商業廣告原型設計上,它已經展現出了足夠實用的商業潛能。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org