跳到正文
IFAI

AI科研

Luma AI 提出 TVM:从零训练提速 25 倍,图像生成仅需 4 步

首次发布 传播指数 31

Luma AI 公布全新训练范式 Terminal Velocity Matching(TVM)。相比标准扩散模型,它在保持同等画质的前提下实现 25 倍训练提速,并能轻松扩展至百亿参数规模。最值得关注的是,基于 TVM 训练的模型仅需 4 步即可生成高精度图像。

Luma AI 提出 TVM:从零训练提速 25 倍,图像生成仅需 4 步
图:lumalabs.ai

生成一张高质量的 AI 图片,以往的大模型通常得在后台反复计算几十遍甚至上百遍。如果把这 100 次计算生生砍到只剩 4 次,而且画质几乎看不出区别,算力账单能省下多少?

Luma AI 公布了一套全新的生成模型训练范式,取名叫终端速度匹配(Terminal Velocity Matching,简称 TVM)。

按照官方公布的数据,完全用 TVM 从零开始预训练的文生图模型,只需要 4 步推理(即调用 4 次神经网络),就能达到传统扩散模型跑 50 步加引导词(共计 100 次网络调用)的效果。在保证生成质量完全一致的前提下,推理速度直接拉升了 25 倍。

踢开 IMM 的绊脚石,搞定百亿参数预训练

目前主流的文生图和视频生成模型,底层几乎都在用扩散模型或流匹配(Flow Matching)。它们画质确实好,但推销成本高得吓人,每一次生成都伴随着漫长的等待和昂贵的算力消耗。

业内此前一直在寻找能几步出图的办法。Luma 之前曾提出过一种叫归纳矩匹配(IMM)的技术,试图在预训练阶段就赋予模型极速推理的能力。但 IMM 在实际工程落地时遇到了硬伤:它的训练目标依赖多重采样,而且极度依赖 FP16 高精度,一旦换成工业界更普遍采用的 BF16 格式就容易崩溃,根本没法扩展到超大模型上。

TVM 正是针对这些痛点做出的突破。它不仅在理论上紧密贴合分布匹配,而且将流匹配直接作为一种特例囊括其中,同时将训练流程简化为了单阶段训练。

最关键的工程突破在于,TVM 彻底摆脱了此前精度的束缚,可以轻松扩展到 100 亿(10B+)参数以上的扩散 Transformer(DiT)模型预训练中。

为什么重要

对用户来说,这意味着文生图乃至视频生成的等待时间,未来很可能会从几十秒压缩到眨眼之间。如果 TVM 顺利部署进 Luma 的正式产品,创作者生成高质量视觉素材的试错成本将大幅下降。不过现在 Luma 只是放出了研究成果和对比示例,普通用户和开发者暂时还没法直接调 API 体验。

对行业而言,TVM 把高效推理的战场从后期的“模型蒸馏”直接前移到了“从零预训练”。以前行业多半是先花大价钱训出一个笨重缓慢的模型,再用各种蒸馏技巧压缩到几步出图,容易损失画面细节;而 TVM 证明了百亿级模型在预训练第一天就可以原生支持 4 步极速生成,这可能会逼着 Runway 和快手等做生成模型的对手重新审视底层训练策略。

我们认为,Luma 这次最聪明的地方在于把工程可行性放在了理论之上。IMM 理论再漂亮,不支持 BF16 就无法融入现代 GPU 集群的吞吐管线,而 TVM 解决了工程兼容性,才让超大模型的快速推理真正有了工业化底气。

但这里的隐患也同样明显。从零训练一个 10B 级别的生成底模需要极大的资本投入,4 步生成虽然在常规场景中表现出色,但在极端复杂的多主体构图或长视频时序连贯性上,会不会因为步数太少而丢失微小细节,看起来还需要未来更多端到端的大规模评测来检验。

来源 (1)

  1. [1]
    lumalabs.ai(在新标签页打开)原文lumalabs.ai

每日 AI 内容精选