跳到正文
IFAI

AI科研

堪萨斯大学开发学术 AI 侦测器:识别 ChatGPT 论文准确率超 99%

首次发布 传播指数 31

堪萨斯大学团队训练出一种机器学习算法,专门识别 ChatGPT 撰写的学术论文,整篇识别准确率达 100%,段落级达 92%。它主要通过词汇丰富度、段落长度和标点差异来判别。不过测试样本量较小,对人类微调过的文本识别能力仍存疑。

堪萨斯大学开发学术 AI 侦测器:识别 ChatGPT 论文准确率超 99%
图:theregister.com

AI 写的论文到底能不能一眼看穿?市面上的检测工具经常被喷成玄学,把正经人类学者逼得抓狂,但学术圈自己坐不住了。

由堪萨斯大学主导的一支科研团队,最近在《Cell Reports Physical Science》期刊上交出了一套专门对付科学论文的分类算法。根据研究团队公布的数据,这套算法在辨别整篇论文是由人类还是 ChatGPT 撰写时,准确率超过了 99%,在测试中甚至做到了百分之百命中。

抓 AI 的小辫子,靠的不是魔法而是文风

论文第一作者、堪萨斯大学化学教授 Heather Desaire 把 AI 写作比喻成玩「两真一假」的游戏。AI 从各处拼凑信息,却根本没有事实核查能力,看起来头头是道,其实漏洞百出。

为了训练分类器,研究团队找来涵盖生物学到物理学等多个领域的 64 篇科学期刊观点类文章。他们让 ChatGPT 模仿同题写作,拼出了 128 篇伪造文章,共计 1276 个段落用来训练算法。测试时又用了两批共 1210 个段落,整篇判别准确率拉到了 100%,哪怕细化到单个段落,识别率也有 92%。

这个算法能抓住 ChatGPT,靠的正是科学家和机器之间的行文习惯差异。人类学者写论文词汇量明显更丰富,段落更长,词汇多样性也远高于机器。

标点符号也是破绽。人类科学家更喜欢用分号、括号和问号来组织复杂逻辑,ChatGPT 除了打引号引用之外,标点用得很克制。

更明显的是措辞习惯。ChatGPT 往往含糊其辞,很少给出具体的图表数据或某位同行的名字。而真正的科学论文里,往往塞满了转折与限定词,比如「however」「but」「although」「because」。科学家习惯留有余地,AI 却容易一通下结论。

不过这项成果也自带免责声明。研究团队自己坦言,这只是一项概念验证研究。测试集一共只有 180 篇文档、约 1200 个段落,样本量确实偏小。如果论文是 AI 先写出来,再经过人类稍微润色调整几句,这套模型还能不能咬住不放,目前谁也说不准。

为什么重要

我们认为,这项研究最聪明的地方,在于它放弃了通用文本检测的幻想,把枪口直接对准了单一垂类。市面上那些号称通杀一切的 AI 检测器,误伤率高到让大学教授不敢拿来给学生定罪。专攻特定学术文体,反而让特征提取变得极度精准。

对普通研究者和期刊编辑部来说,现在急着把这套算法接入审稿系统还为时过早。它目前的适用范围仅限于特定格式的观点综述,一旦换个期刊风格或者面对深度人机协作修改的稿件,准确率大概率会缩水。

从行业角度看,学术出版正被海量低质 AI 灌水论文逼入死角。如果出版机构能利用这类文体差异建立第一道漏斗,至少能把最粗制滥造的批量生成内容筛出去。但我们也要看到隐患,检测规则一旦公开,提示词工程就能针对性地要求 AI 多加分号、多用限定词,猫鼠游戏的下一回合立刻就会打响。

来源 (1)

  1. [1]
    theregister.com(在新标签页打开)原文theregister.com

每日 AI 内容精选