准确率仅 26%：OpenAI 悄然下线 AI 文本检测工具

今年 1 月，当全球学校的老师们还在为学生用 ChatGPT 抓瞎写论文而头疼时，OpenAI 曾抛出一颗定心丸，推出了专门检测文本是否由 AI 生成的工具 AI Classifier。

然而仅仅过了半年，这个被寄予厚望的工具就被官方悄悄拔掉了网线。没有大张旗鼓的公告，OpenAI 只是在最初发布该工具的官方博文里默默加了一段更新说明，宣布因为准确率过低，已于 7 月 20 日正式关闭该功能，相关页面链接也已失效。

成绩单太差，自己都看不下去了

AI Classifier 从诞生第一天起，底气就不是很足。

按照 OpenAI 当初自己公布的测试数据，在针对英文文本的挑战测试集里，这个分类器正确识别出 AI 撰写内容的概率只有 26%，也就是将近四分之三的 AI 文本直接被它漏放了过去。

更严重的问题在于误伤。它有 9% 的概率把人类自己写出来的原创内容硬生生打上「疑似 AI 生成」的标签。

除了准确率感人，它的限制条件也格外苛刻。用户必须手动输入至少 1000 个字符的文本，如果字数太短，模型基本抓瞎；如果遇到非英语内容，或者文本风格超出了它的训练集范围，基于神经网络的分类机制表现还会进一步大幅下滑。

当时 OpenAI 甚至在官方建议里明确提醒，不要把这个工具当成主要的决策依据。但对一线教师而言，哪怕 9% 的误判率，也意味着可能冤枉一个辛苦写作业的学生。

老师的救命稻草成了烫手山芋

自 ChatGPT 推出以来，教育界是神经紧绷的群体之一。市面上因此催生出了一大批做 AI 检测的作坊式产品和小工具，但大家最指望的，依然是造出 ChatGPT 的 OpenAI 能拿出解药。

其实在推出该工具的同月，OpenAI 还联合斯坦福大学和乔治城大学的学者发过一篇论文，专门探讨生成式语言模型在虚假信息传播、作弊和舆论操纵上的风险。论文里坦言，现阶段没有任何合理的缓解措施能彻底杜绝 AI 带来的操纵威胁。

在这次悄悄关停之后，OpenAI 表示团队正在吸收反馈，目前转向研究更有效的文本溯源技术，同时承诺会开发并部署机制，帮助用户辨别音频和视觉内容是否由 AI 生成，比如 DALL-E 制作的图片。不过，官方并没有给出任何新工具上线的具体时间表。

为什么重要

由裁判亲自下场承认自己的尺子量不准，这件事打碎了很多人对「AI 测 AI」的技术幻想。

对普通用户和教育工作者来说，这个决定是个清醒剂：如果你现在还在依赖市面上任何声称能「一键查出 AI」的检测软件来抓学生作弊或评估员工，最好立刻停下来。连掌握大模型底层权重的 OpenAI 自己的准确率都只有两成多且有近一成的误判，第三方所谓的检测工具到底有几分可信度，显然要打上一个巨大的问号。

我们认为，OpenAI 及时止损关停工具是明智的，但处理方式略显被动。把它挂在网上不仅无法解决作弊问题，反而会因为误判给普通创作者和学生带来无妄之灾；但在悄无声息的博文补丁里下线，多少反映出大模型产商在应对自身技术外溢风险时的无奈。

从行业来看，单纯依赖检测模型去倒推一段文本是不是人类写的，在原理上正变得越来越走不通。随着语言模型表达日益自然，真正的防御方向看起来必须从「事后检测」转向「事前溯源」，比如数字水印或来源追踪。但只要开源模型和本地部署还在，这场猫鼠游戏恐怕远没有终局。