OpenAI 推出文本水印 textGrain:為符合歐盟法規,歐盟區率先預設啟用
OpenAI 推出無形文本水印技術 textGrain,以滿足《歐盟人工智慧法案》的可識別要求。全球 API 使用者即日起可選開啟,歐盟區 ChatGPT 和 Codex 未來數週將預設嵌入。不過該水印對改寫較為敏感,檢測器目前僅限受邀研究機構測試。

如果你把 ChatGPT 寫的文章複製貼上到別處,肉眼看著毫無破綻,但一段看不見的統計程式碼可能已經刻在字裡行間了。
OpenAI 宣佈推出名為 textGrain 的文本無形水印技術,並開始在歐盟範圍內分步落地。之所以挑現在,主要是為了遵守 8 月 2 日生效的《歐盟人工智慧法案》裡對生成式 AI 輸出必須具備「機器可讀標識」的合規要求。
不過,OpenAI 顯然不想一刀切。這次的水印只在歐盟對 ChatGPT 和 Codex 的所有方案預設開啟;全球其他地區的 API 開發者雖然今天起能用,但預設處於關閉狀態,需要自己主動開啟。
藏在選詞機率裡的「暗號」
所謂文本水印,並不是在文章末尾加個圖示或宣告,而是通過演算法在模型預測下一個詞時微調選詞機率。
根據 OpenAI 與賓夕法尼亞大學、耶魯大學聯合釋出的技術報告,textGrain 利用一組金鑰在預測候選詞時稍微推一把。幾百個詞累積下來,肉眼讀起來毫無異樣,但在專用檢測器眼裡,只要拿著對應金鑰,就能靠純文本抓出這些統計規律。
OpenAI 稱,textGrain 的表現達到甚至超過了 Google DeepMind 的 SynthID 等方案。在評估最新前沿模型 Astra 時,帶不帶水印在各項基準測試上的得分基本沒有差別。他們還打算未來把這項技術開源。
但問題在於,這套防線極其脆弱。
官方資料顯示,如果一段 400 個 token 的文本里有 10% 的詞被換成同義詞,檢測成功率就會從 92% 跌到 66%;如果換掉 25% 的詞,成功率直接掉到 17%。文本越短越難測,數學這類用詞死板的邏輯推導更是難以施展。正因為誤報和漏報風險太高,OpenAI 這次根本沒有公開檢測器,只向通過申請的稽核機構和學者開放。
為什麼重要
我們認為,OpenAI 這次是在合規壓力和使用者流失之間走鋼絲。早在 2024 年,《華爾街日報》就爆料過 OpenAI 早已做出了文本水印,但因為擔心使用者轉投競品而壓著不發。如今 Anthropic 兩個月前在全球給 Claude 加了水印,引來不少使用者抗議「我出了思路和指令,模型只是工具」,OpenAI 這次回縮到「僅限歐盟預設開啟」,看起來是極其精明的試水策略。
對普通創作者和打工人來說,它短期內的實際殺傷力很有限。只要你習慣做潤色、改同義詞或者跨語言翻譯,現階段的無形水印很容易被洗掉;而且 OpenAI 也明確表示,水印不綁賬號、不溯源使用者身份。但對開發者而言,如果業務面向歐盟市場,主動開啟 API 水印會是規避監管處罰的最省心方式。
對整個行業來說,貓鼠遊戲才剛剛開始。當大廠們為了法案不得不給文字打上鋼印,各路去水印、洗稿工具必然會迅速跟進。OpenAI 自己在公告裡把免責條款寫得很滿:沒測出水印不等於人類原創,測出水印也不代表剽竊或說了假話。只要檢測工具的誤傷率還在,這場關於文本來源的驗證就遠談不上成熟。
來源 (3)
- openai.com(在新分頁開啟)原文openai.com
- techcrunch.com(在新分頁開啟)報導techcrunch.com
- theverge.com(在新分頁開啟)報導theverge.com