GlyphPrinter 开源:专治图像生成缺笔少划,中日韩泰及符号都能打对
研究团队开源文字渲染框架 GlyphPrinter,专门解决图像生成中文字崩坏、缺笔少划的问题。它基于 FLUX.1-dev 并采用局部偏好优化,不仅能准确渲染中日韩泰等复杂字符,还能生成石碑刻纹等特殊符号。代码与权重均已开放。

用 AI 生成图片时,最让人头疼的往往不是画面构图,而是画面里的字。
现在的文生图模型画张风景或人像都很惊艳,但只要你在提示词里加上一句「印着某某文字」,大概率就会翻车。英文稍微好一点,一旦换成中文、日文、韩文、泰文这种复杂文字,或者带有特殊装饰的符号,画面里的字要么少一撇缺一捺,要么直接变成谁也不认识的外星伪字。
复旦大学和南洋理工大学的研究团队最近开源了一个叫 GlyphPrinter 的文字渲染框架,这篇论文已被 CVPR 2026 接收。它专门对付图像里的文字崩坏,不仅要把字写出来,还要把每一个笔画和符号都打对。
不看整张图,专盯写错字的那块地方
让 AI 学会在图里准确写字,过去主要有两种思路。要么拼命堆合成数据硬微调,要么挂一个庞大的判别模型来给整张图打分。
但整张图打分有个大毛病:AI 画了一幅很棒的海报,背景满分,偏偏右下角的日文字写漏了一点。如果按整张图来做偏好对齐,模型很难察觉到底哪里出了问题,甚至会为了改对一个字而把整张画的构图给带偏。
GlyphPrinter 的解法很聪明。它基于开源底座 FLUX.1-dev,提出了所谓的 R-GDPO,也就是区域分组直接偏好优化。
说白了,团队专门构建了一个带局部标注的偏好数据集 GlyphCorrector。训练时,算法根本不看画面无关的区域,而是把目光死死锁定在容易出错的文字局部。
整个训练分两阶段:先用多语言合成与真实图像做基础微调,再用 R-GDPO 针对局部字形做偏好对齐。在推理阶段,他们还引入了区域奖励引导,让模型在采样时能精准控制文字区域的准确率,彻底甩掉了外挂显式打分模型的累赘。
搞定多语言,连石碑刻纹也不在话下
从实际效果来看,GlyphPrinter 最让人惊喜的是对冷门与复杂字符的包容度。
在生成赛博朋克风格的游戏海报时,给它指定一段日文标题和副标题,它几乎能一字不差地还原假名和汉字。换成中文、韩文、法文甚至书写极难的泰文,它也能老老实实写对笔画与结构,不再凭空捏造乱码。
更实用的是,它不只是像打字机一样把平面字体贴在图上。
无论是街头墙面上的涂鸦、石碑上历经风化的凹陷雕刻、洞穴岩壁上的古老神秘符号,还是生日蛋糕上的奶油裱花字,GlyphPrinter 都能把字形与画面的光影、材质自然地融为一体。
目前团队已经把推理代码、模型权重以及 GlyphCorrector 数据集完整开源在 Hugging Face 上,本地部署只需要一套标准的 Python 环境即可跑起来。
为什么重要
对于做电商设计、游戏海报制作和自媒体配图的人来说,文字生成崩坏一直是 AI 工具无法直接商用的最大痛点。很多人现在的做法是先用 AI 画背景,再导入 PS 手动加字,遇到需要光影贴合的立体雕刻更是只能靠人工手绘。GlyphPrinter 证明了只要局部对齐做得好,开源底座完全能把字写精准。
从行业技术路线上看,这项研究把常用于大语言模型的直接偏好优化(DPO)精细化裁剪到了图像的局部区域。它给文生图领域的细节控制提供了一个新范式:解决局部细节失真,不需要把整个底座从头重训一遍,通过针对性的局部区域偏好对齐就能见效。
不过,目前 GlyphPrinter 的底座依然是体量不小的 FLUX.1-dev,想要在普通消费级电脑上流畅跑微调依然有一定显存门槛。但它开出的这剂药方,很可能会迅速被各类开源 WebUI 插件吸纳,成为设计师工作流里的标配插件。
来源 (1)
- huggingface.co(在新标签页打开)原文huggingface.co