视频抠像模型 VideoMaMa:粗掩码转像素级抠像,宣布将开源
研究人员推出视频抠像模型 VideoMaMa,利用预训练视频扩散模型的生成先验,直接将粗糙的分割掩码转化为发丝级精确的抠像。团队还基于此构建了含超 5 万条真实视频的数据集 MA-V 并训练出 SAM2-Matte。所有模型与数据均将公开发布。
VideoMaMa 是一个专门用来做高质量视频抠像的模型,能把粗糙的物体分割掩码直接变成像素级精准的透明通道。
做视频后期或者绿幕抠像的人都知道,传统抠像极其费时,特别是遇到飘动的发丝、透明玻璃或者复杂的运动边缘,普通分割模型往往切得支离破碎。VideoMaMa 解决的就是这个问题,用户只需要提供一个大致的轮廓,它就能自动补齐边缘细节,输出干净的透明通道。
它是怎么做到的
VideoMaMa 的全称是 Video Mask-to-Matte Model,核心思路是利用预训练视频扩散模型中自带的生成先验。
真实世界的高精度抠像标注数据非常稀缺,过去的技术很难直接迁移到生活场景中。研究团队做了一件很讨巧的事:VideoMaMa 完全只用合成数据进行训练,不需要昂贵的真实视频标注。
由于直接借用了预训练视频扩散模型理解运动和画面的能力,它展现出了极强的零样本泛化性能。即便面对完全没见过的真实拍摄素材,模型也能凭借生成先验,把生硬的掩码边缘自然过渡成细腻的发丝级细节。
5 万条真实视频和 SAM2-Matte
有了这个基础,团队顺手搭建了一套可扩展的自动伪标签管线,用来批量生成高质量视频抠像数据。
利用这套流程,他们构建了名为 MA-V(Matting Anything in Video)的数据集。这个数据集包含超过 5 万条真实世界视频,涵盖了各种复杂场景和大幅度运动,彻底打破了以往抠像数据集规模有限的困境。
为了验证这套数据的含金量,研究团队还在 MA-V 上微调了 Meta 的 SAM2 模型,打造出专精抠像的 SAM2-Matte。测试结果显示,在真实拍摄的复杂视频中,SAM2-Matte 的稳定性和鲁棒性明显超过了那些使用现有传统数据集训练的模型。
开源方面,团队在项目主页宣布,包括 VideoMaMa 模型、SAM2-Matte 以及拥有 5 万多条视频的 MA-V 数据集,后续都会全量公开发布。
为什么重要
对视频剪辑师、特效师和创作者来说,高质量视频抠像一直是门槛最高、耗时最长的工序之一。如果以后只要给一个 SAM 风格的大致选区,模型就能自动吐出电影级的绿幕抠像,后期制作的效率会被直接拉满。
从技术路线来看,这篇工作的聪明之处在于跳出了「死磕人工精细标注」的死胡同。先用视频生成模型自带的世界理解能力把合成数据推向极致,再回过头来给真实世界视频打标签,最后反哺出更强的通用工具。一旦这套模型和 5 万条数据集正式放出,视频后期的开源生态很可能会迎来一次集体洗牌。
来源 (1)
- cvlab-kaist.github.io(在新标签页打开)原文cvlab-kaist.github.io