OpenAI 暂缓发布 ChatGPT 水印工具:能抓作弊,但容易被绕过
据报道 OpenAI 已研发出能识别 ChatGPT 写作的文本水印工具,但正谨慎评估是否发布。该技术通过微调词汇选择嵌入隐形水印,虽准确度高,但极易被机器翻译或二次改写绕过,且可能对非英语母语者带来污名化风险。

老师们一直想要的「抓作弊神器」,OpenAI 其实早就做出来了,但他们现在正犹豫要不要把它公之于众。
据《华尔街日报》报道,OpenAI 内部研发了一套可以精准识别 ChatGPT 生成内容的文本水印技术,连学生用 AI 代写的作业都能揪出来。不过,这项工具目前被锁在公司内部,团队还在纠结到底要不要发布。
OpenAI 发言人向媒体证实了这项研究的存在,并表示公司正在采取一种深思熟虑的态度。官方给出的理由很直白:这项技术牵扯的复杂因素太多,一旦放出来,会波及整个生态。
给文字加个「隐形防伪码」
其实去年 OpenAI 就上线过一款 AI 文本检测器,但因为误判率太高、准确率太低,没多久就草草下架了。
这次他们换了一条截然不同的技术路线。新方法叫文本水印,它专门针对 ChatGPT,测不了其他家的模型。
简单来说,技术人员在 ChatGPT 生成文字、挑拣词汇的底层逻辑上动了点手脚。它输出的每一个词都符合某种特定算法规律,肉眼读起来毫无破绽,但只要用配套工具一扫,就能立刻辨认出来。
OpenAI 在更新的博文里提到,这种水印的准确率非常高,哪怕有人在局部微调句子或者做简单的同义词替换,它依然能精准识别。
想防的人防不住,老实人先遭殃
既然效果这么好,为什么压着不发?最大的问题在于,它防君子不防小人。
OpenAI 自己坦白,这种水印只要遇到全局篡改就很容易失效。比如把生成的文字丢进翻译软件转一道、用别家的生成模型重写一遍,甚至只是在每个单词之间加个特殊符号再删掉,水印就被彻底洗掉了。
换句话说,真正铁了心想作弊的人,绕过它轻而易举。
更棘手的是道德包袱。很多非英语母语者平时会用 ChatGPT 来润色语法和表达,如果文字被强制打上水印并被检测出来,这些人很可能会被扣上作弊或造假的帽子,承受不公平的偏见。
为什么重要
这件事情看起来是技术问题,实质上是 OpenAI 商业利益与社会责任的一次剧烈博弈。
如果 OpenAI 上线了这个工具,等于单方面给自家产品套上枷锁。作弊者只要转头去用竞品模型就能轻松逃避检测,结果很可能是把用户白白推向竞争对手,自己还落个体验差的评价。
对于普通用户和教育工作者来说,这也是个清醒剂。我们认为,靠技术手段一劳永逸识别 AI 文本的幻想基本破灭了,文本水印目前来看只是一张捅得破的窗户纸。
在这个阶段,不管是学校还是企业,如果还寄希望于某款官方检测软件来评判诚信,很可能会陷入两难。要么被真正的作弊高手蒙混过关,要么误伤那些只想拿 AI 当翻译和辅助工具的普通人。
来源 (1)
- techcrunch.com(在新标签页打开)原文techcrunch.com