SenseNova 開源 U1.5-8B:不用 VAE 解碼,直接在畫素空間出 4K 圖
SenseNova 開源統一多模態模型 SenseNova-U1.5-8B-MoT,採用 Apache 2.0 協議。它跳過了傳統的潛空間與 VAE 編解碼步驟,直接在畫素空間端到端生成原生 4K 影像,並支援通過自然語言修改文字與區域性元素。不過模型權重約 50GB,本地部署對顯示卡要求較高。

SenseNova-U1.5-8B-MoT 是一個剛開源的原生統一多模態模型,能幫你直接生成原生 4K 高解析度影像,或者用自然語言精準修改已有圖片。
它最核心的技術變化,是完全拋棄了大家常用的潛空間和 VAE 編解碼器架構。
跳過 VAE,直接在畫素空間作畫
現在絕大多數影像生成模型,走的大多是同一個套路:先把影像壓縮排低維度的潛空間(Latent Space)裡生成,最後再用變分自編碼器(VAE)把它解碼還原成畫素圖片。這樣跑起來確實省算力,但也經常會因為解碼過程丟掉細節或產生模糊偽影。
SenseNova-U1.5-8B-MoT 則是基於 NEO-unify 架構,直接在畫素空間(Pixel Space)裡端到端生成圖片。它增強了 patchify 層與資料分佈,不僅繞過了額外的編碼和解碼環節,還能穩定輸出原生 4K 解析度的畫面。
在生成質量上,它主打逼真的照片感、光影層次和中英文文字渲染。海報、資訊圖這種文字密集的複雜設計,模型能夠理清版式層級,減少文字崩壞的情況。
除了文生圖,它還支援可靠的原生影像編輯。你可以像用聊天工具一樣,用自然語言讓它換掉畫面裡的外套顏色、修改海報文字、刪除或替換某個特定物體,甚至支援輸入多張參考圖進行跨圖編輯。如果你在原圖上畫框做標註,它也能識別並只修改指定區域,儘量不破壞原圖的構圖、光影和人物長相。
部署門檻和當前侷限
這個模型基於 Apache 2.0 協議開源,程式碼放在 GitHub 的 OpenSenseNova/SenseNova-U1 倉庫,權重則釋出在 Hugging Face 上。
上游開發環境建議使用 Python 3.11、PyTorch 2.8 和 CUDA 12.8,支援 FlashAttention 配置。你可以直接克隆倉庫,通過 uv sync 安裝依賴後,用官方提供的指令碼跑文生圖與影像編輯測試。
不過,要在本地跑起來成本並不低。整個模型權重檔案大概有 50GB,必須搭配高階顯示卡才能帶得動。官方表示後續可能會推出量化和壓縮版本,降低視訊記憶體門檻。
官方也在文件中坦白了一些現階段的問題。例如某些提示詞可能會導致畫面細節過密或色彩過飽和,需要調低 cfg_scale 來緩解;遇到特別密集的小字號文字,依然可能會拼錯;小尺寸人臉、手部和肢體結構偶有不穩定;面對大範圍或多輪複雜編輯時,主體一致性也可能發生偏移。
為什麼重要
如果你是從事視覺設計、海報排版的創作者,或者在研究多模態端到端生成的開發者,這個模型很值得拉下來跑跑看。它把中英文文字渲染和自然語言區域性編輯做到了同一個模型裡,比起拼裝幾個工作流去改字改圖要省事很多。
更關鍵的是,它證明了不用潛空間壓縮、直接在畫素空間端到端做 4K 生成這條路在開源領域走得通。雖然 50GB 的體量把大多數普通個人電腦擋在了門外,但只要社群跟進完成量化適配,這種不依賴 VAE 的畫素級控制能力,很可能會成為開源影像生成工具的新標配。
來源 (2)
- huggingface.co(在新分頁開啟)原文huggingface.co
- huggingface.co(在新分頁開啟)報導huggingface.co