跳到正文
IFAI

大模型

ChatGPT 新模型暗藏文字水印?OpenAI 回應:只是強化學習的怪癖

首次發布 傳播指數 46

Rumi 團隊發現 GPT-o3 與 o4-mini 輸出的長文本夾帶不可見的 Unicode 空格字元,疑似被嵌入文本水印。OpenAI 隨後澄清這絕非水印,只是「大規模強化學習的怪癖」。截至 4 月 23 日,該特殊字元現象已在最新測試中消失。

圖:rumidocs.com

如果你把一段 AI 生成的文章直接複製貼上交上去,可能覺得自己神不知鬼不覺。但最近有人發現,新版 ChatGPT 輸出的文字裡,可能藏著一堆看不見的標記。

專門做學術寫作工具的 Rumi 團隊在測試中發現,OpenAI 較新的 GPT-o3 和 o4-mini 模型在生成長文本時,會悄悄夾帶特殊的 Unicode 字元。這立刻在社群引發了討論:OpenAI 是不是終於開始給文本加水印了。

肉眼看不見的“幽靈空格”

事情的起因是 Rumi 團隊讓模型寫一篇關於美國教育部的長文章。他們把文字貼進 Sublime Text 這類程式碼編輯器,或者專門的字元檢視工具時,發現文本里出現了一串規律排列的特殊字元。

這些字元主要是“窄不換行空格”,也就是 Unicode 編碼為 U+202F 的字元。在普通的文件軟體或瀏覽器裡,它長得和普通空格一模一樣,肉眼根本分辨不出來。

更關鍵的是,這種空格在直接複製貼上到 Google Docs 等編輯器後依然存在。測試團隊發現,GPT-4o 這種老模型沒有這個現象,只有在 o3 和 o4-mini 的長回答裡才會規律出現。

如果這是水印,那識別起來確實比經常誤判的 AI 檢測器準得多。普通人寫論文幾乎不可能平白無故敲出一堆 U+202F,誤傷機率基本為零。

官方否認水印,稱只是演算法怪癖

不過,這個發現很快迎來了轉折。OpenAI 主動聯絡了 Rumi 團隊,明確否認這些特殊字元是故意放進去的水印。

OpenAI 給出的解釋很耐人尋味。他們表示,這純粹是“大規模強化學習過程中的一種怪癖”。換句話說,模型在訓練時自己學到了這個毛病,並不是官方有意植入的防偽標籤。

到了 4 月 23 日,Rumi 再次測試時發現,新生成的文本里已經找不到這些特殊空格了,問題似乎已經被官方悄悄修復。

但這依然引發了外界的各種猜測。有人認為這或許是 OpenAI 在小範圍內偷偷測試文本追蹤,被曝光後才迅速下線;也有人覺得只要做一次“查詢並替換”,就能把這些特殊字元一網打盡,如果是水印未免也太脆弱了。

為什麼重要

這起烏龍事件之所以鬧得這麼大,關鍵在於發生的時間點太微妙了。

當時正值期末季,OpenAI 剛好面向學生免費開放了 ChatGPT,大批學生正在用這些新模型寫期末大作業。如果這真的是一種隱形水印,那些直接全文複製貼上交作業的學生,一旦遇到懂行的老師,就等於直接把把柄遞到了別人手上。但只要有人知道了這個技巧,隨手點一下批次替換就能抹掉痕跡,這反而會讓老實寫作業或者不懂技術的學生吃虧。

更深層的影響在於大模型之間的資料戰。業內普遍懷疑不少競品,比如 DeepSeek 等,可能使用過 ChatGPT 的生成資料來進行訓練。如果 OpenAI 真的能給文本打上無法察覺的水印,就能用來順藤摸瓜,抓取誰在偷偷蒸餾自己的模型輸出。

我們認為,無論這次的特殊字元到底是不是 OpenAI 所說的演算法怪癖,它都給所有人提了個醒:指望靠一段隱藏字元或者黑盒檢測器來防 AI 作弊,從一開始就走不通。任何可見字元級別的標記都太容易被清除,只要過一遍文本清洗指令碼就蕩然無存。

看起來,教育機構與其去抓學生有沒有用隱藏空格,不如改變考評方式,把重心放到多輪草稿、研究推演和思路答辯上。因為在技術層面上,圍堵複製貼上註定是一場貓鼠遊戲,而且防守方几乎沒有勝算。

來源 (1)

  1. [1]
    rumidocs.com(在新分頁開啟)原文rumidocs.com

每日 AI 內容精選