跳到正文
IFAI

產業動態

誤信 ChatGPT 能測代寫:德州一教授給大半個班打了零分

首次發布 傳播指數 56

據報道,德州農工大學商業分校一名教授將學生論文貼進 ChatGPT 查重,因 AI 瞎認文章由其生成而給過半學生判了零分,導致畢業證一度被扣。問題是 ChatGPT 根本不具備檢測 AI 生成的能力。校方隨後介入調查,確認並無學生因此掛科或被扣留文憑。

誤信 ChatGPT 能測代寫:德州一教授給大半個班打了零分
圖:businessinsider.com

如果你想抓作弊,直接問犯人是不是他乾的,大機率能問出點笑話來。但一位大學教授真的這麼幹了,而且是用 ChatGPT 來抓學生抄襲 ChatGPT。

得克薩斯農工大學商業分校(Texas A&M University-Commerce)的一位教授,直接把自己整個班級大半學生的畢業證給扣了。原因相當離奇:他把學生的期末論文逐段複製進 ChatGPT,然後問這個聊天機器人,文章是不是它寫的。

ChatGPT 毫不客氣地回答:是的。

連自己的博士論文都沒放過

事情的起因是 Reddit 使用者 DearKick 的爆料。他的未婚妻是這所大學農學專業的應屆畢業生,都已經參加完畢業典禮了,卻突然收到農業科學與自然資源專業任課教授 Jared Mumm 博士發來的一封全員郵件。

Mumm 在郵件裡把軟體名字都拼錯了,寫作「Chat GTP」。他說自己把大家最後三次論文作業分別複製進去跑了兩遍,只要兩遍都被判定是 AI 寫的,成績直接記零分,給這門課打了個「X」(未通過)。他還甩下一句狠話:「我不批改 AI 產生的狗屁東西。」

學生們急了,紛紛找出帶有時間戳的 Google Docs 歷史版本,想證明自己是一字一句敲出來的。教授一開始根本不理會,只留給學生一個補交重寫作業免掛科的選項。

更諷刺的事情發生在後面。Reddit 網友 Delicious_Village112 找來了 Mumm 教授當年關於生豬養殖的博士論文摘要,塞進 ChatGPT 問它是不是它寫的。ChatGPT 的回答非常乾脆:這段文字包含多項 AI 生成內容的特徵,完全可能是由類似 ChatGPT 的語言模型寫出來的。

網友們接著把 Mumm 教授痛罵學生的那封指責郵件也塞了進去,ChatGPT 同樣承認了:「是的,你發的內容是我寫的。」

ChatGPT 根本不是查重軟體

問題在於,ChatGPT 壓根就沒有識別 AI 文本的能力,更別說記住自己以前說過什麼了。只要給一點誘導,它甚至能一口咬定《罪與罰》這類世界名著是自己寫的。

市面上雖然有 Winston AI、Content at Scale 等專門檢測 AI 的工具,就連 OpenAI 自己官方推出的識別工具也被評測機構認為非常不準。直接拿一個大語言模型當驗鈔機,完全是搞錯了工具屬性。

隨著事件在社交網路上發酵,學校官方不得不出面滅火。得克薩斯農工大學商業分校發表宣告稱,沒有學生因為這起事件真正掛科或被禁止畢業,校方正在調查此事,並起草關於在課堂中使用 AI 的規範政策,Mumm 教授也在逐一與學生溝通。

據發帖人透露,目前已有學生憑藉修改記錄自證清白並得到了教授的道歉,但也有兩名學生承認在學期較早時候用過 ChatGPT,這讓其他無辜學生的申訴變得更加複雜。

為什麼重要

這件事看起來像個荒誕的學術笑話,但它暴露出的隱患其實非常嚴峻。

對普通學生和打工人來說,這是一記警鐘:只要你在電腦上寫字,就必須保留好「創造過程的腳印」。比如開啟版本歷史記錄、保留草稿和時間戳,因為在未來很長一段時間裡,你隨時可能要面對不懂技術的管理者提出的莫須有指控。

我們認為,這位教授的荒唐操作折射出教育界目前對 AI 極度普遍的技術盲區與恐慌。很多機構在沒有搞清楚工具機理的情況下,就把裁量權粗暴地推給演算法,或者把生成模型當成真相判定器。生成式模型的本質是預測下一個詞機率,而不是記憶資料庫,它天生就會順著提問者的話語傾向給出肯定答覆。

這種誤用不僅傷害了無辜的學生,更在高校和職場中製造了惡劣的互不信任。如果機構不盡快建立合理的 AI 使用邊界和科學的取證標準,類似用大模型來「捉妖」卻反被模型愚弄的鬧劇,只會越來越多。

來源 (2)

  1. [1]
    businessinsider.com(在新分頁開啟)原文businessinsider.com
  2. [2]

話題追蹤ChatGPT 對高等教育的影響

這個話題的歷次新聞,最新的在上面。

  1. 斯坦福研究警告:AI 檢測器歧視非母語者,超半數託福作文被誤判
  2. 誤信 ChatGPT 能測代寫:德州一教授給大半個班打了零分本則
  3. 大學課堂強制用 AI 寫作業:協同修改比直接甩提示詞好得多
  4. 防範學生用 ChatGPT 代寫論文,美國多所大學緊急重構教學
  5. ChatGPT 引動作弊擔憂:英國高校被敦促改革考核機制

每日 AI 內容精選