跳到正文
IFAI

開源專案

Spectrum 開源:預判擴散軌跡,讓影像影片模型提速超 4 倍

首次發布 傳播指數 48

字節跳動與斯坦福大學研究團隊開源擴散加速框架 Spectrum。它通過切比雪夫多項式預判未來的特徵軌跡,無須重新訓練即可疊加到現有流程中,讓 FLUX.1 和 Hunyuan Video 等模型提速 3.5 到 4.7 倍,且生成質量幾乎不受影響。

Spectrum 開源:預判擴散軌跡,讓影像影片模型提速超 4 倍
圖:github.com

Spectrum 是字節跳動和斯坦福大學團隊開源的擴散模型加速框架。說白了,它能讓你本地跑影像和影片擴散模型時,不用重新訓練模型,直接疊加一層預測演算法,就能把生成速度提高 3.5 到 4.7 倍,而且畫面細節幾乎不打折扣。

它是怎麼做到不掉質量提速的

一般的擴散模型生成影像或影片,需要老老實實一步一步完成幾十次去噪計算,每多一步就多消耗一份視訊記憶體和算力。

Spectrum 的做法很聰明:它沒有粗暴地跳步,而是把去噪過程中的特徵變化看作一條隨時間滑動的平滑軌跡,用切比雪夫多項式去擬合這條曲線。接著通過簡單的嶺迴歸預測出未來幾個擴散步驟的特徵,直接複用過去的資訊。

這樣一來,模型就不需要每一步都完整跑一次龐大的神經網路前向計算。在數學上,這種長距離預測不會像常規插值那樣步長一大誤差就指數級滾雪球,因此能在省掉大量計算的同時穩住畫質。

實際效果與支援的模型

從實測資料來看,在影像模型 FLUX.1 上,Spectrum 能跑出高達 4.79 倍的加速,生成出來的畫面無論細節還是色彩,肉眼幾乎分不出和原版有什麼差異。

在影片模型上提速同樣紮實。原版 Hunyuan Video 通常需要 50 步去噪,掛上 Spectrum 後只需實際計算 14 步,整體速度提升約 3.5 倍。相比同類加速方案比如 Taylor 系列方法容易出現畫面畸變和顏色失真,Spectrum 依然能保持原始動作的連貫性和清晰度。此外,它在 Wan2.1-14B 影片模型上也拿下了 4.67 倍的加速比。

支援的生態方面,它目前覆蓋了 FLUX.1、Stable Diffusion 3.5-Large、SDXL 以及 Hunyuan Video 等主流開源模型。官方程式碼已經完全開源,且已被生產級推理框架 SGLang 官方整合;社群也迅速跟進開發了面向 SDXL 和 FLUX 的 ComfyUI 外掛,普通玩家甚至不需要自己寫命令列就能掛載試用。

怎麼在本地跑起來

程式碼已經託管在 GitHub 專案 hanjq17/Spectrum 上。環境配置要求比較常規,需要 Python 3.10 環境,安裝 PyTorch、diffusers、transformers 以及 hydra-core 等核心依賴。

下載好對應開源模型的權重後,官方提供了直接呼叫的指令碼。生成影像使用 text_to_image.py,生成影片使用 text_to_video.py,通過傳入不同的視窗引數就能調節提速激程序度。如果你平時習慣在 ComfyUI 裡出圖出影片,直接安裝社群對應的 ComfyUI-Spectrum 節點會更加省事。

為什麼重要

我們認為 Spectrum 對本地部署大模型的創作者和小型開發者來說是個非常實用的利好。很多影片擴散模型單張卡跑一次就要等上幾分鐘,Spectrum 最大的優勢在於完全不需要重新微調或蒸餾權重,即插即用,零訓練門檻就能白嫖數倍的吞吐效率。

在整個推理最佳化領域,它提供了一個很清晰的思路:相比代價高昂的模型蒸餾,在特徵層做純數學軌跡預測既輕量又可靠。不過要注意的是,預測引數推得太激進時,某些高動態場景依然可能出現細微瑕疵,建議在生產環境中根據畫質需求找到最適合自己的加速比平衡點。

來源 (1)

  1. [1]

每日 AI 內容精選