Pika 开源音视频模型 H3 Flex:仅需 6 步采样,音画同步生成
Pika 在 GitHub 开源音视频生成模型 Pika H3 Flex。模型基于 MiniMax-H3 训练,只需 6 步采样就能同步生成 5 至 15 秒带立体声的视频,支持 11 种画幅和最多 12 个多模态参考文件。最值得关注的是它的推理效率大幅提升,单张 H100 即可本地运行。

Pika H3 Flex 是 Pika 开源的音视频生成模型,基于 MiniMax-H3 后训练而成。它最大的特点是极快,仅需 6 步采样就能同时把画面和匹配的 32 kHz 立体声一起生成出来,不再需要先把画面渲染出来,再去拼配音和音效。
模型原生支持 480p 和 768p 两种分辨率,涵盖从 21:9、16:9 到 9:16、9:21 等 11 种画幅比例。输出视频时长在 5 到 15 秒之间,帧率为 24 fps。由于采用了特定的帧网格结构,生成 5 秒视频实际为 124 帧(约 5.17 秒),15 秒则约为 362 帧。
两个适配器搞定多模态控制
这套模型没有采用通用的采样算法,而是使用专门调优的六步去噪调度。模型核心由两个任务适配器组成:FL2VA 和 Ref2VA。
FL2VA 负责处理纯文本提示词以及首尾帧控制。你可以只输入文字,或者指定起始帧、结束帧,甚至同时固定首尾两帧,让模型补全中间的动态过渡与对应声音。
Ref2VA 则主打多模态参考。它单次最多接受 12 个参考文件,包括最多 9 张图片、3 个视频和 3 个独立音频片段。单个音视频素材时长在 2 到 15 秒之间,视频自带的原声音轨会自动保留并参与参考,方便创作者做精准的镜头控制与动画设计。
硬件门槛与怎么跑起来
想要本地跑起来,硬件门槛并不低。整个项目基础模型文件约 210 GB,加上适配器大约 5.5 GB,需要预留充足的存储空间。
在算力方面,官方测试配置是单张 NVIDIA H100 80GB。目前代码只支持单卡处理单个请求,即便插了 8 张卡也不会自动切分加速,多卡只能用来并发处理独立任务。
如果显存吃紧,运行脚本提供了 CPU 卸载选项。开启该参数后,Transformer 权重会留在系统内存中并分批预取到显存,可以用运行时间换取显存占用,从而在单张 H100 上跑通 768p 分辨率、15 秒的生成任务。
代码已在 GitHub 仓库 Pika-Labs/Pika-H3-Flex 开源,遵循 Apache-2.0 协议,适配器权重则遵循 MiniMax H3 社区许可。用户可以通过 Python 3.12、Conda 或官方提供的 Docker 镜像部署命令行工具 pika-h3-pro。如果需要 1080p 至 4K 分辨率或音轨分离,则需要接入 Pika 的云端 API。
为什么重要
对于专业创作者和视效工作室来说,Pika H3 Flex 是个非常实用的原型迭代工具。以往生成一段十几秒的音视频往往需要漫长的去噪计算,现在压缩到 6 步完成,创作者可以在短时间内快速测试分镜构图、镜头运动和视听节奏。
和目前主流的开源视频模型相比,它把音画同步直接整合进底层采样,省去了后期音效对齐的繁琐流程。不过单张 80GB 显卡的高门槛,注定它现阶段还是主要面向专业团队和有高端算力储备的开发者,普通用户很难在消费级显卡上直接跑起来。
来源 (1)
- github.com(在新标签页打开)原文github.com