跳到正文
IFAI

開源專案

字節跳動開源全模態影片模型 Bernini 2:自然語言修影片,但模型達 180GB

首次發布 傳播指數 48

字節跳動開源全模態影片編輯模型 Bernini 2,支援用自然語言直接修改已有影片的視角、背景,或在畫面中增刪角色與物體。它結合語義規劃與擴散渲染提升編輯精度,不過僅模型檔案就達 180GB,普通裝置本地執行門檻極高。

字節跳動開源全模態影片模型 Bernini 2:自然語言修影片,但模型達 180GB
圖:comfyui-wiki.com

Bernini 2 是字節跳動開源的全模態影片編輯與生成框架。它能讓你直接用自然語言修改已有影片,比如在場景裡憑空加兩個角色、把色調調暖、刪掉某個特定人物或物體,或者直接更換背景和調整攝影機視角。

你還可以給它一張參考圖,讓它把圖片裡的物體準確插進影片裡,比如把一張照片上的直升機無縫放進動態畫面中。

它能做什麼,怎麼做到的

與一般的端到端影片生成模型不同,Bernini 2 採用了一套分工明確的架構。它先用基於 Qwen2.5-VL 的多模態大模型擔任語義規劃器,把複雜的編輯指令拆解成明確的語義規劃,再交由基於 Wan2.2 的 DiT 渲染器完成畫面生成與解碼。

相比 2026 年 6 月推出的第一版 Bernini-Diffusers,這次的第二代模型在聯合訓練前增加了數千步聯結器預熱訓練,重點提升了參考圖影片編輯和動作遷移的表現。

在任務覆蓋上,Bernini 2 支援文生圖、圖生圖、文生影片、影片到影片以及帶參考圖的影片編輯等 6 種任務。字節跳動內部的盲測人類評分顯示,它的影片編輯表現在評測中達到了主流閉源商業模型的第一梯隊水準。

怎麼跑起來,門檻在哪裡

想要本地跑起來,門檻非常高。Bernini 2 僅模型本身就重達 180GB,如果算上 VAE、T5 文本編碼器、分詞器和其他排程元件,對儲存和視訊記憶體的壓力極大,普通消費級裝置基本無法負擔。

部署生態方面,目前流行的 ComfyUI 還不支援載入完整的 Bernini 2 架構。官方程式碼庫目前支援單卡和多卡並行指令碼。如果你想在 ComfyUI 裡體驗,只能退而求其次選擇官方支援的 Bernini-R 渲染器版本,但該版本沒有包含多步語義規劃模組。

如果你有足夠的伺服器算力,可以通過 Hugging Face 下載 ByteDance/Bernini-Diffusers-v2 權重目錄,並配合 GitHub 上的官方倉庫 Bernini 執行測試指令碼。相關論文編號為 arXiv:2605.22344。

為什麼重要

我們認為,Bernini 2 展示了一條非常有啟發性的技術路徑:用專門的大語言模型先做語義規劃,再指揮擴散模型渲染,能大幅解決傳統影片生成聽不懂複雜修圖指令的痛點。

但對普通創作者和獨立開發者來說,現階段它並不適合本地嘗試。180GB 的體量加上覆雜的元件鏈條,普通裝置很難吃得消。加上目前已經有像 MiniMax H3 這類同樣支援參考圖生影片的方案,Bernini 2 在開源社群很可能會面臨叫好不叫座的尷尬。除非後續社群能推出高壓縮比的量化版本或輕量端到端管線,否則它更適合作為工業界和大算力團隊的研究參考。

來源 (2)

  1. [1]
  2. [2]
    youtube.com(在新分頁開啟)報導youtube.com

每日 AI 內容精選