跳到正文
IFAI

开源项目

Kiwi-Edit 开源:打字或给参考图,就能对 720p 视频增删改

首次发布 传播指数 48

Showlab 开源视频编辑框架 Kiwi-Edit,完整公开代码、模型与数据集。它结合多模态大模型与 5B 视频扩散 Transformer,支持通过自然语言或参考图在 720p 分辨率下完成物体增删、背景替换和风格迁移。最值得关注的是其时序连贯性优秀,为开源视频编辑提供了统一工具链。

图:showlab.github.io

Kiwi-Edit 是 Showlab 开源的一个视频编辑框架,简单说,它能让你用一句话或者一张参考图,直接修改现有的 720p 视频。

过去想在视频里换掉背景、抹掉路人或者把写实画面改成水彩风,要么得手动逐帧抠图,要么只能碰运气用闭源商业工具。Kiwi-Edit 把这套能力做成了完全开源的工具链,把代码、模型权重和训练数据集全部公开了出来。

它能做什么

Kiwi-Edit 的核心能力分为两大类:自然语言指令编辑和参考图引导编辑。

在文字指令模式下,你可以做全局风格调整,比如把一段实拍视频转成卡通动画、素描或者水彩画;也可以做精确的局部增减,比如给画面里的主体戴上一顶帽子,或者把不需要的人物直接抹除。

如果你手里有一张特定的参考图,Kiwi-Edit 还能把图片里的背景提取出来换到原视频里,或者把图片里的特定物体插入到视频场景中,同时保持视频原有的运动轨迹和结构不变,不会出现常见的画面闪烁或物体扭曲。

怎么做到的与硬件门槛

Kiwi-Edit 的底层架构结合了两个部分:一个负责理解复杂人类指令的多模态大语言模型,以及一个 5B 参数量的视频扩散 Transformer(DiT)。

整个训练采用三阶段课程设计,先做基础对齐,再做指令微调,最后进行参考图引导的微调。团队还搭建了一套自动化数据管线,把指令三元组扩充为参考引导的四元组数据,以此保证视频在经历复杂编辑后依然具有时序连贯性。

在各项公开基准测试中,Kiwi-Edit 的 5B 模型在 1280×704 分辨率下的综合表现超过了 Lucy-Edit、OpenVE-Edit 等一众 5B 到 14B 的开源竞品,在部分局部编辑指标上甚至逼近商用闭源方案 Runway Aleph。虽然在被摄主体一致性上相比 Kling-O1 等大厂闭源主力模型仍有差距,但在开源阵营里已经拿下了极具竞争力的成绩。

硬件方面,模型权重体积约为 20 GB。想要流畅跑起来,本地需要一块显存充裕的高端消费级 GPU。

目前相关论文已经上线 arXiv,项目代码、模型和训练数据集均已在 GitHub 和项目主页完整开源。

为什么重要

对于视频创作者和独立开发者来说,Kiwi-Edit 最大的价值在于把视频二次创作的门槛直接打了下来。以前开源视频模型多半只能从头文生视频,很难在既有成片上做精准微调;现在通过一张图加一句话,就能把背景替换或角色配饰改掉,这让低成本视频后期管线有了落地的可能。

我们认为 Kiwi-Edit 走得最聪明的地方是全套开源了训练数据集和三阶段方案,没有在关键数据上留一手。5B 参数量控制得相对克制,但 20 GB 的体积对普通轻薄本用户依然不可企及,门槛依旧卡在高端显卡上。它更适合有本地算力的工作室或极客开发者先试用起来,把它作为定制化视频流的底模。

来源 (1)

  1. [1]
    showlab.github.io(在新标签页打开)原文showlab.github.io

每日 AI 内容精选