Pika 開源音影片模型 H3 Flex:僅需 6 步取樣,音畫同步生成
Pika 在 GitHub 開源音影片生成模型 Pika H3 Flex。模型基於 MiniMax-H3 訓練,只需 6 步取樣就能同步生成 5 至 15 秒帶立體聲的影片,支援 11 種畫幅和最多 12 個多模態參考檔案。最值得關注的是它的推理效率大幅提升,單張 H100 即可本地執行。

Pika H3 Flex 是 Pika 開源的音影片生成模型,基於 MiniMax-H3 後訓練而成。它最大的特點是極快,僅需 6 步取樣就能同時把畫面和匹配的 32 kHz 立體聲一起生成出來,不再需要先把畫面渲染出來,再去拼配音和音效。
模型原生支援 480p 和 768p 兩種解析度,涵蓋從 21:9、16:9 到 9:16、9:21 等 11 種畫幅比例。輸出影片時長在 5 到 15 秒之間,幀率為 24 fps。由於採用了特定的幀網格結構,生成 5 秒影片實際為 124 幀(約 5.17 秒),15 秒則約為 362 幀。
兩個介面卡搞定多模態控制
這套模型沒有采用通用的取樣演算法,而是使用專門調優的六步去噪排程。模型核心由兩個任務介面卡組成:FL2VA 和 Ref2VA。
FL2VA 負責處理純文本提示詞以及首尾幀控制。你可以只輸入文字,或者指定起始幀、結束幀,甚至同時固定首尾兩幀,讓模型補全中間的動態過渡與對應聲音。
Ref2VA 則主打多模態參考。它單次最多接受 12 個參考檔案,包括最多 9 張圖片、3 個影片和 3 個獨立音訊片段。單個音影片素材時長在 2 到 15 秒之間,影片自帶的原聲音軌會自動保留並參與參考,方便創作者做精準的鏡頭控制與動畫設計。
硬體門檻與怎麼跑起來
想要本地跑起來,硬體門檻並不低。整個專案基礎模型檔案約 210 GB,加上介面卡大約 5.5 GB,需要預留充足的儲存空間。
在算力方面,官方測試配置是單張 NVIDIA H100 80GB。目前程式碼只支援單卡處理單個請求,即便插了 8 張卡也不會自動切分加速,多卡只能用來併發處理獨立任務。
如果視訊記憶體吃緊,執行指令碼提供了 CPU 解除安裝選項。開啟該引數後,Transformer 權重會留在系統記憶體中並分批預取到視訊記憶體,可以用執行時間換取視訊記憶體佔用,從而在單張 H100 上跑通 768p 解析度、15 秒的生成任務。
程式碼已在 GitHub 倉庫 Pika-Labs/Pika-H3-Flex 開源,遵循 Apache-2.0 協議,介面卡權重則遵循 MiniMax H3 社群許可。使用者可以通過 Python 3.12、Conda 或官方提供的 Docker 映象部署命令列工具 pika-h3-pro。如果需要 1080p 至 4K 解析度或音軌分離,則需要接入 Pika 的雲端 API。
為什麼重要
對於專業創作者和視效工作室來說,Pika H3 Flex 是個非常實用的原型迭代工具。以往生成一段十幾秒的音影片往往需要漫長的去噪計算,現在壓縮到 6 步完成,創作者可以在短時間內快速測試分鏡構圖、鏡頭運動和視聽節奏。
和目前主流的開源影片模型相比,它把音畫同步直接整合進底層取樣,省去了後期音效對齊的繁瑣流程。不過單張 80GB 顯示卡的高門檻,註定它現階段還是主要面向專業團隊和有高階算力儲備的開發者,普通使用者很難在消費級顯示卡上直接跑起來。
來源 (1)
- github.com(在新分頁開啟)原文github.com