ChatGPT 新模型暗藏文字水印?OpenAI 回应:只是强化学习的怪癖
Rumi 团队发现 GPT-o3 与 o4-mini 输出的长文本夹带不可见的 Unicode 空格字符,疑似被嵌入文本水印。OpenAI 随后澄清这绝非水印,只是「大规模强化学习的怪癖」。截至 4 月 23 日,该特殊字符现象已在最新测试中消失。
如果你把一段 AI 生成的文章直接复制粘贴交上去,可能觉得自己神不知鬼不觉。但最近有人发现,新版 ChatGPT 输出的文字里,可能藏着一堆看不见的标记。
专门做学术写作工具的 Rumi 团队在测试中发现,OpenAI 较新的 GPT-o3 和 o4-mini 模型在生成长文本时,会悄悄夹带特殊的 Unicode 字符。这立刻在社区引发了讨论:OpenAI 是不是终于开始给文本加水印了。
肉眼看不见的“幽灵空格”
事情的起因是 Rumi 团队让模型写一篇关于美国教育部的长文章。他们把文字贴进 Sublime Text 这类代码编辑器,或者专门的字符查看工具时,发现文本里出现了一串规律排列的特殊字符。
这些字符主要是“窄不换行空格”,也就是 Unicode 编码为 U+202F 的字符。在普通的文档软件或浏览器里,它长得和普通空格一模一样,肉眼根本分辨不出来。
更关键的是,这种空格在直接复制粘贴到 Google Docs 等编辑器后依然存在。测试团队发现,GPT-4o 这种老模型没有这个现象,只有在 o3 和 o4-mini 的长回答里才会规律出现。
如果这是水印,那识别起来确实比经常误判的 AI 检测器准得多。普通人写论文几乎不可能平白无故敲出一堆 U+202F,误伤概率基本为零。
官方否认水印,称只是算法怪癖
不过,这个发现很快迎来了转折。OpenAI 主动联系了 Rumi 团队,明确否认这些特殊字符是故意放进去的水印。
OpenAI 给出的解释很耐人寻味。他们表示,这纯粹是“大规模强化学习过程中的一种怪癖”。换句话说,模型在训练时自己学到了这个毛病,并不是官方有意植入的防伪标签。
到了 4 月 23 日,Rumi 再次测试时发现,新生成的文本里已经找不到这些特殊空格了,问题似乎已经被官方悄悄修复。
但这依然引发了外界的各种猜测。有人认为这或许是 OpenAI 在小范围内偷偷测试文本追踪,被曝光后才迅速下线;也有人觉得只要做一次“查找并替换”,就能把这些特殊字符一网打尽,如果是水印未免也太脆弱了。
为什么重要
这起乌龙事件之所以闹得这么大,关键在于发生的时间点太微妙了。
当时正值期末季,OpenAI 刚好面向学生免费开放了 ChatGPT,大批学生正在用这些新模型写期末大作业。如果这真的是一种隐形水印,那些直接全文复制粘贴交作业的学生,一旦遇到懂行的老师,就等于直接把把柄递到了别人手上。但只要有人知道了这个技巧,随手点一下批量替换就能抹掉痕迹,这反而会让老实写作业或者不懂技术的学生吃亏。
更深层的影响在于大模型之间的数据战。业内普遍怀疑不少竞品,比如 DeepSeek 等,可能使用过 ChatGPT 的生成数据来进行训练。如果 OpenAI 真的能给文本打上无法察觉的水印,就能用来顺藤摸瓜,抓取谁在偷偷蒸馏自己的模型输出。
我们认为,无论这次的特殊字符到底是不是 OpenAI 所说的算法怪癖,它都给所有人提了个醒:指望靠一段隐藏字符或者黑盒检测器来防 AI 作弊,从一开始就走不通。任何可见字符级别的标记都太容易被清除,只要过一遍文本清洗脚本就荡然无存。
看起来,教育机构与其去抓学生有没有用隐藏空格,不如改变考评方式,把重心放到多轮草稿、研究推演和思路答辩上。因为在技术层面上,围堵复制粘贴注定是一场猫鼠游戏,而且防守方几乎没有胜算。
来源 (1)
- rumidocs.com(在新标签页打开)原文rumidocs.com