Luma 推出 IMM 預訓練演算法：取樣效率提升 10 倍，突破擴散模型上限

Inductive Moment Matching（簡稱 IMM）是 Luma 開源的一種全新生成式預訓練演算法，專門用來解決擴散模型跑得太慢、多步迭代效率低的老大難問題。

它完全繞開了目前主流擴散模型依賴的去噪分數匹配機制，用一種單目標函式的矩匹配方法替代。在把取樣步數砍掉 30 倍的同時，它的生成質量不僅沒降，反而反超了傳統的擴散模型和 Flow Matching。

它是怎麼繞過擴散模型瓶頸的

自 2020 年以來，連續訊號生成領域基本全被擴散模型壟斷。擴散模型最大的問題在於推理，哪怕你把模型引數堆得再大，網路依然要依賴非常細密的時間步才能收斂。

像大家常用的 DDIM 取樣器，每次迭代只是根據當前時間和輸入預測下一步，本質上是奔著下一步做線性插值。這種線性約束直接封死了單次迭代的表達上限。

IMM 的改法非常巧妙。它讓模型在接收當前時間步的同時，額外輸入一個要跳向的「目標時間步」，從而大大放寬了單步推斷的限制。

在數學實現上，IMM 撿起了 15 年前就成熟的最大均值差異（MMD）矩匹配技術。這讓它擺脫了分數隨機微分方程那套複雜的推導，也不需要像一致性模型（Consistency Models）那樣為了防崩塌去調繁瑣的超引數，整個訓練過程只需要一個損失目標，結構非常穩定。

測試成績與開源內容

在基準測試上，IMM 的取樣效率相比傳統擴散模型提升了 10 倍以上。

在標準的 ImageNet 256x256 測試中，IMM 僅用原本三十分之一的取樣步數，就跑出了 1.99 的 FID 得分，表現優於擴散模型的 2.27 以及 Flow Matching 的 2.15。

如果是從頭訓練的標準 CIFAR-10 資料集，IMM 甚至只需要 2 步取樣就能跑出 1.98 的 FID，直接重新整理了該條件下的最優成績。而且測試顯示，它的生成效果隨著訓練算力、推斷算力和模型尺寸的增加能穩定變強。

目前 Luma 已經把這項研究完全開源，GitHub 倉庫 lumalabs/imm 上提供了完整程式碼和預訓練權重 Checkpoints，ArXiv 上也同步放出了技術細節論文與關於推斷端擴充套件的立場論文。

為什麼重要

生成式影像和影片模型這幾年越做越大，但落地時全被推斷成本卡住了脖子。很多團隊為了加速只能做後期的蒸餾或妥協步數，而 IMM 證明了只要預訓練演算法本身改對了，根本不用在推斷速度和畫質之間二選一。

我們認為，如果你正在從事多模態基座模型訓練或影像生成研究，這個專案非常值得直接拉下來跑一跑。它最大的價值不僅在於少走幾步取樣省下的算力，更在於給長期停滯在擴散架構裡的多模態預訓練，撕開了一條新的演算法口子。