Meta 推出 Movie Gen:30B 影片與 13B 音訊模型,支援精準編輯與個性化生成
Meta 推出多媒體基礎模型 Movie Gen。它包含 300 億引數的影片模型與 130 億引數的音訊模型,不僅能文生音影片,還支援區域性增刪替換等精準編輯,並能基於單張照片生成定製人物影片。目前該模型正處於創作者測試階段,尚未公開發布。
玩過 AI 生成影片的人大概都有體會:畫面雖然炫酷,但往往是一部無聲默片,要是想給主角換件衣服或者改個背景,常常得推倒重來,抽卡抽到崩潰。
Meta 釋出了一套名為 Movie Gen 的多媒體基礎模型,試圖把影片生成、精細編輯、角色保持和自動配音一口氣全部打包解決。
這次亮相的核心是兩個模型。負責畫面的是擁有 300 億引數的 Movie Gen Video,它基於 Transformer 架構,只要輸入一句文本提示詞,就能生成支援多種寬高比的高畫質長影片,Meta 表示這在業內屬於首次。
負責聲音的則是 1300 億引數還是 130 億?官方明確是 130 億引數的 Movie Gen Audio。這個模型能讀取影片畫面,並結合可選的文本提示詞,自動生成與畫面精準同步的擬音、環境音以及器樂背景音樂,把音影片對齊做到了前沿水平。
能精準修細節,還能拿單張照片演主角
除了常規的文生影片,Movie Gen 最引人注目的地方在於它對已有影片的控制力。
傳統的 AI 影片工具很難做到區域性微調,而 Movie Gen 支援精確影片編輯。使用者無論是輸入自己拍攝的影片還是 AI 生成的片段,都可以直接通過文本指令進行區域性修改,比如在畫面裡增加、移除或替換某個特定物體。當然,想整體更換背景或藝術風格,也同樣是一句話的事。
另一個亮點是個性化影片生成。使用者只需要上傳一張個人的真實照片,加上一段文本描述,模型就能生成以該人物為主角的影片。Meta 強調,該模型在保持人物面部特徵與自然動態方面取得了業內領先的效果。
為了檢驗這套工具在專業領域的表現,Meta 找來了知名製作公司 Blumhouse 合作,邀請多位專業導演提前體驗。曾執導《網路謎蹤》的導演 Aneesh Chaganty 還專門用 Movie Gen 製作了一支名為《i h8 ai》的短片,從專業創作者的視角測試這套工具的邊界。
為什麼重要
我們認為,Meta 這次展示 Movie Gen,其實是給當前還在卷畫面解析度的 AI 影片賽道換了個競爭維度。
過去大半年的 AI 影片工具,各家都在拼誰生成的畫面更逼真,但實際工作流極其割裂:先在影片模型裡生成畫面,再匯出到音訊工具裡找音效,如果遇到穿幫鏡頭,唯一的辦法就是重新抽卡。Movie Gen 聰明的地方在於,它把音效生成、區域性修改和角色一致性做成了一個閉環,直擊影片創作者在剪輯臺上的真實痛點。
對於創作者而言,如果這項技術能落地,普通人也能用自然語言完成調色、換景和加音效等專業後期工作,門檻被大幅拉低。影視團隊則可以用它快速製作動態分鏡和概念預覽。
不過,目前 Movie Gen 還處於研究階段,Meta 僅表示在結合專業反饋推進後續的潛在釋出計劃。考慮到 300 億引數的影片模型加上 130 億引數的音訊模型,其背後的算力成本和推理開銷註定極其高昂。普通使用者短期內恐怕很難隨時隨地用上,它最終是以獨立工具推出,還是縮水後塞進 Meta 旗下的社交軟體裡,依然有待觀察。
來源 (2)
- @AIatMeta(在新分頁開啟)原文twitter.com
- ai.meta.com(在新分頁開啟)報導ai.meta.com