準確率僅 26%：OpenAI 悄然下線 AI 文本檢測工具

今年 1 月，當全球學校的老師們還在為學生用 ChatGPT 抓瞎寫論文而頭疼時，OpenAI 曾丟擲一顆定心丸，推出了專門檢測文本是否由 AI 生成的工具 AI Classifier。

然而僅僅過了半年，這個被寄予厚望的工具就被官方悄悄拔掉了網線。沒有大張旗鼓的公告，OpenAI 只是在最初發布該工具的官方博文裡默默加了一段更新說明，宣佈因為準確率過低，已於 7 月 20 日正式關閉該功能，相關頁面連結也已失效。

成績單太差，自己都看不下去了

AI Classifier 從誕生第一天起，底氣就不是很足。

按照 OpenAI 當初自己公佈的測試資料，在針對英文文本的挑戰測試集裡，這個分類器正確識別出 AI 撰寫內容的機率只有 26%，也就是將近四分之三的 AI 文本直接被它漏放了過去。

更嚴重的問題在於誤傷。它有 9% 的機率把人類自己寫出來的原創內容硬生生打上「疑似 AI 生成」的標籤。

除了準確率感人，它的限制條件也格外苛刻。使用者必須手動輸入至少 1000 個字元的文本，如果字數太短，模型基本抓瞎；如果遇到非英語內容，或者文本風格超出了它的訓練集範圍，基於神經網路的分類機制表現還會進一步大幅下滑。

當時 OpenAI 甚至在官方建議裡明確提醒，不要把這個工具當成主要的決策依據。但對一線教師而言，哪怕 9% 的誤判率，也意味著可能冤枉一個辛苦寫作業的學生。

老師的救命稻草成了燙手山芋

自 ChatGPT 推出以來，教育界是神經緊繃的群體之一。市面上因此催生出了一大批做 AI 檢測的作坊式產品和小工具，但大家最指望的，依然是造出 ChatGPT 的 OpenAI 能拿出解藥。

其實在推出該工具的同月，OpenAI 還聯合斯坦福大學和喬治城大學的學者發過一篇論文，專門探討生成式語言模型在虛假資訊傳播、作弊和輿論操縱上的風險。論文裡坦言，現階段沒有任何合理的緩解措施能徹底杜絕 AI 帶來的操縱威脅。

在這次悄悄關停之後，OpenAI 表示團隊正在吸收反饋，目前轉向研究更有效的文本溯源技術，同時承諾會開發並部署機制，幫助使用者辨別音訊和視覺內容是否由 AI 生成，比如 DALL-E 製作的圖片。不過，官方並沒有給出任何新工具上線的具體時間表。

為什麼重要

由裁判親自下場承認自己的尺子量不準，這件事打碎了很多人對「AI 測 AI」的技術幻想。

對普通使用者和教育工作者來說，這個決定是個清醒劑：如果你現在還在依賴市面上任何聲稱能「一鍵查出 AI」的檢測軟體來抓學生作弊或評估員工，最好立刻停下來。連掌握大模型底層權重的 OpenAI 自己的準確率都只有兩成多且有近一成的誤判，第三方所謂的檢測工具到底有幾分可信度，顯然要打上一個巨大的問號。

我們認為，OpenAI 及時止損關停工具是明智的，但處理方式略顯被動。把它掛在網上不僅無法解決作弊問題，反而會因為誤判給普通創作者和學生帶來無妄之災；但在悄無聲息的博文補丁里下線，多少反映出大模型產商在應對自身技術外溢風險時的無奈。

從行業來看，單純依賴檢測模型去倒推一段文本是不是人類寫的，在原理上正變得越來越走不通。隨著語言模型表達日益自然，真正的防禦方向看起來必須從「事後檢測」轉向「事前溯源」，比如數字水印或來源追蹤。但只要開源模型和本地部署還在，這場貓鼠遊戲恐怕遠沒有終局。