跳到正文
IFAI

AI科研

研究团队提出 MatAnyone:首帧点选一下,复杂视频也能精细抠图

首次发布 传播指数 31

研究团队推出视频抠图框架 MatAnyone。针对复杂背景容易失真的难题,模型引入区域自适应记忆融合机制,用户只需在首帧点击标记目标,系统就能在后续视频中保持语义稳定并保留发丝级边缘细节。这项研究已被 CVPR 2025 接收。

图:pq-yang.github.io

做过视频后期的人都知道,最让人头疼的不是抠静止的物体,而是人在动的时候,边缘的发丝疯狂闪烁,或者背景稍微复杂一点,衣服的一角就被背景直接吞掉。

以往那种不依赖任何辅助信息的自动抠图算法,遇到光影变化或杂乱背景往往瞬间露馅。南洋理工大学 S-Lab 等机构的研究人员在 2025 年 2 月公布了一项名为 MatAnyone 的新研究,已被计算机视觉顶会 CVPR 2025 接收。这项研究要解决的核心问题,就是让复杂场景下的视频抠图既稳得住,细节又足够锋利。

第一帧点几下,后续全程跟牢

MatAnyone 采用了一种目标指定的交互范式。简单来说,你不需要在整段视频里反复纠正,只要借助现有的交互式分割工具,在视频的第一帧上用鼠标点几下,标记出想要抠出的主体就行。

有了第一帧的目标掩码之后,模型就会基于它生成高质量的透明度遮罩,也就是通常所说的 Alpha 通道。

为了保证后续帧不跟丢、不抽搐,MatAnyone 建立了一套基于记忆机制的一致性传播模块。它设计了一个区域自适应记忆融合单元,能把前一帧记录下的特征灵活融入当前帧。

这个设计的精妙之处在于分工明确:在人体的核心区域,它负责死死锁住语义信息,防止走着走着身体被扣穿;而在人物边缘,它又专门负责捕捉发丝、半透明布料等高频微小细节。

更实用的是,研究团队还给它加入了一套循环细化机制。即使你在第一帧给出的分割掩码稍微有点糙,模型在推理阶段也能自我迭代修正,直接把毛糙的选区拉升到单张精细图片级别的抠图质感,中间完全不需要重新微调模型。

把分割数据和抠图数据拆开训

视频抠图领域一直有个大难题,那就是高质量、带真实发丝级 Alpha 通道的视频数据集极其稀缺。如果只用合成的绿幕素材去硬训,模型一到真实世界就会大打折扣。

MatAnyone 团队想了个很聪明的办法:他们把任务拆开,分别利用不同数据源的长处。他们引入了大规模的目标分割数据来训练语义稳定性,让模型认得准人;同时利用高质量的抠图数据来专攻边缘细节。

配合专门设计的独立损失函数,模型既吃到了海量分割数据的红利,又没有丢掉发丝级别的精细度。研究团队还为此专门构建了一个规模更大、质量更高且场景更多样的视频抠图评测数据集。

为什么重要

对视频剪辑师、特效师和个人创作者来说,这个工具如果落地,价值非常直接。它意味着大家以后拍视频可以真正摆脱绿幕的束缚,哪怕在杂乱的街道或者昏暗的室内,只要首帧点选一下,就能拿到电影级别的抠像素材,大大降低了虚拟背景替换和多层合成的制作门槛。

我们认为,这项研究走得最漂亮的一步是数据策略的解耦。很多团队试图用单一模态硬怼端到端的大模型,但视频抠图既需要极强的语义识别,又需要亚像素级的边缘感知,两种数据在现实中根本无法同等规模获取。MatAnyone 把语义稳定性和边缘细节分开由不同数据供给,用极巧的网络架构弥合了两者。

不过看起来它也并非没有软肋。这种重度依赖第一帧记忆传播的架构,一旦遇到目标长时间完全被遮挡后再重新出现的场景,或者镜头剧烈晃动导致运动模糊,记忆链条是否会断裂、会不会把背景中的相似物体错误吸纳,依然是这类记忆网络在极端工程落地时需要直面的考验。

来源 (1)

  1. [1]
    pq-yang.github.io(在新标签页打开)原文pq-yang.github.io

每日 AI 内容精选