GlyphPrinter 開源:專治影像生成缺筆少劃,中日韓泰及符號都能打對
研究團隊開源文字渲染框架 GlyphPrinter,專門解決影像生成中文字崩壞、缺筆少劃的問題。它基於 FLUX.1-dev 並採用區域性偏好最佳化,不僅能準確渲染中日韓泰等複雜字元,還能生成石碑刻紋等特殊符號。程式碼與權重均已開放。

用 AI 生成圖片時,最讓人頭疼的往往不是畫面構圖,而是畫面裡的字。
現在的文生圖模型畫張風景或人像都很驚豔,但只要你在提示詞里加上一句「印著某某文字」,大機率就會翻車。英文稍微好一點,一旦換成中文、日文、韓文、泰文這種複雜文字,或者帶有特殊裝飾的符號,畫面裡的字要麼少一撇缺一捺,要麼直接變成誰也不認識的外星偽字。
復旦大學和南洋理工大學的研究團隊最近開源了一個叫 GlyphPrinter 的文字渲染框架,這篇論文已被 CVPR 2026 接收。它專門對付影像裡的文字崩壞,不僅要把字寫出來,還要把每一個筆畫和符號都打對。
不看整張圖,專盯寫錯字的那塊地方
讓 AI 學會在圖裡準確寫字,過去主要有兩種思路。要麼拼命堆合成數據硬微調,要麼掛一個龐大的判別模型來給整張圖打分。
但整張圖打分有個大毛病:AI 畫了一幅很棒的海報,背景滿分,偏偏右下角的日文字寫漏了一點。如果按整張圖來做偏好對齊,模型很難察覺到底哪裡出了問題,甚至會為了改對一個字而把整張畫的構圖給帶偏。
GlyphPrinter 的解法很聰明。它基於開源底座 FLUX.1-dev,提出了所謂的 R-GDPO,也就是區域分組直接偏好最佳化。
說白了,團隊專門構建了一個帶區域性標註的偏好資料集 GlyphCorrector。訓練時,演算法根本不看畫面無關的區域,而是把目光死死鎖定在容易出錯的文字區域性。
整個訓練分兩階段:先用多語言合成與真實影像做基礎微調,再用 R-GDPO 針對區域性字形做偏好對齊。在推理階段,他們還引入了區域獎勵引導,讓模型在取樣時能精準控制文字區域的準確率,徹底甩掉了外掛顯式打分模型的累贅。
搞定多語言,連石碑刻紋也不在話下
從實際效果來看,GlyphPrinter 最讓人驚喜的是對冷門與複雜字元的包容度。
在生成賽博朋克風格的遊戲海報時,給它指定一段日文標題和副標題,它幾乎能一字不差地還原假名和漢字。換成中文、韓文、法文甚至書寫極難的泰文,它也能老老實實寫對筆畫與結構,不再憑空捏造亂碼。
更實用的是,它不只是像打字機一樣把平面字型貼在圖上。
無論是街頭牆面上的塗鴉、石碑上歷經風化的凹陷雕刻、洞穴巖壁上的古老神秘符號,還是生日蛋糕上的奶油裱花字,GlyphPrinter 都能把字形與畫面的光影、材質自然地融為一體。
目前團隊已經把推理程式碼、模型權重以及 GlyphCorrector 資料集完整開源在 Hugging Face 上,本地部署只需要一套標準的 Python 環境即可跑起來。
為什麼重要
對於做電商設計、遊戲海報製作和自媒體配圖的人來說,文字生成崩壞一直是 AI 工具無法直接商用的最大痛點。很多人現在的做法是先用 AI 畫背景,再匯入 PS 手動加字,遇到需要光影貼合的立體雕刻更是隻能靠人工手繪。GlyphPrinter 證明了只要區域性對齊做得好,開源底座完全能把字寫精準。
從行業技術路線上看,這項研究把常用於大語言模型的直接偏好最佳化(DPO)精細化裁剪到了影像的區域性區域。它給文生圖領域的細節控制提供了一個新範式:解決區域性細節失真,不需要把整個底座從頭重訓一遍,通過針對性的區域性區域偏好對齊就能見效。
不過,目前 GlyphPrinter 的底座依然是體量不小的 FLUX.1-dev,想要在普通消費級電腦上流暢跑微調依然有一定視訊記憶體門檻。但它開出的這劑藥方,很可能會迅速被各類開源 WebUI 外掛吸納,成為設計師工作流裡的標配外掛。
來源 (1)
- huggingface.co(在新分頁開啟)原文huggingface.co