OpenAI 研发文本水印：微调选词暗藏「指纹」，几百字就能揪出 AI 作弊

科技分析师 Benedict Evans 曾这样形容 ChatGPT：它就像一个从来没去上过课的本科生，却能极其自信地在考卷上写满看似无懈可击的废话。

但这套「一本正经胡说八道」的本事，偏偏成了某些赶作业学生手里的利器。因为生成出来的文本此前从未存在过，传统的查重软件面对它几乎全线失灵。

现在，把潘多拉魔盒打开的 OpenAI，正打算亲手给它上一道锁。

藏在词语概率里的隐形指纹

OpenAI 客座研究员 Scott Aaronson 在德克萨斯大学的一场讲座中透露，他们正在开发一种给文本打上「统计水印」的系统，而且已经做出了可运行的原型。

这套水印并不需要像图片那样印上肉眼可见的标记。它的原理是悄悄干预模型的用词选择，在生成文字时嵌入某种极其微妙的统计学规律。

对于普通读者来说，读起来完全没有任何异样。但如果用专门的算法去检测，只要文本长度达到几百个单词，系统就能抓到明显的统计信号，判定这篇内容来自 GPT。

按照 Aaronson 的说法，这套方案不仅是防学术作弊，更重要的是防患于未然。比如防止有人不需要动用莫斯科一整栋大楼的水军，就能自动化批量炮制政治宣传评论，或是模仿特定对象的文风去栽赃陷害。

连程序员社区都顶不住了

对 AI 生成内容的防范，学术界不是唯一着慌的。编程问答社区 Stack Overflow 已经明确禁止用户提交 ChatGPT 生成的回答。

Stack Overflow 管理员给出的理由很直接：ChatGPT 答案的错误率其实很高，但坏就坏在它表面上看起来头头是道，而且生成成本极低，大量垃圾回答涌入会彻底毁掉整个社区。

知名投资人 Paul Graham 则把这种把 AI 写的文字据为己有的行为称为「AIgiarism」（AI 抄袭）。他认为，抄袭的本质不仅是剥夺了他人的成果，更在于把不属于自己的东西伪造成自己的，对 AI 内容也是同理。

为什么重要

我们认为，OpenAI 搞文本水印，与其说是自律，不如说是为了给接下来更大的商业化和合规落地排雷。

对学生和普通创作者来说，这敲响了一个警钟：现在拿它代写文章、应付作业或许还能蒙混过关，但只要官方检测器一落地，秋后算账的风险非常大。真想用它，老老实实拿它当思路发散工具或润色助手，比直接复制粘贴靠谱得多。

在行业层面，这也会逼着竞品跟进。如果 OpenAI 证明了隐形水印在工程上切实可行，那么监管机构和教育体系很快就会把「可追溯性」变成所有大语言模型的硬性门槛，没有防伪机制的开源模型可能会面临更严厉的审核。

不过这套做法也有隐患。统计水印通常很脆弱，只要使用者拿到文本后稍微调整语序、用同义词替换几句，或者让另一个小模型洗一遍稿，原本的词频分布就很容易被打乱。防君子不防小人的猫鼠游戏，才刚刚拉开序幕。