跳到正文
IFAI

AI工具

OpenAI 接入 SynthID 隱形水印:上線公開工具查驗 AI 圖片

首次發布 傳播指數 54

OpenAI 宣佈升級內容溯源體系,成為 C2PA 認證生成器,並聯合 Google DeepMind 為 ChatGPT 等生成的圖片嵌入 SynthID 隱形水印。官方還上線了公開驗證工具,可同時檢查後設資料與水印訊號,防止影像被二次篡改。

OpenAI 接入 SynthID 隱形水印:上線公開工具查驗 AI 圖片
圖:openai.com

一張假圖在網上傳開,最尷尬的事情是什麼?往往不是大家分不清真假,而是即使有人用工具測過了,兩邊也各執一詞,誰都說服不了誰。

OpenAI 終於決定把這項鑑別工作搬到臺前。他們宣佈升級自家的內容溯源機制,不僅成為 C2PA 認證的生成端產品,還找來老對手 Google DeepMind 合作,直接給 ChatGPT、Codex 和 OpenAI API 生成的圖片打上肉眼看不見的 SynthID 水印。同時,他們在官網上線了一個公開驗證工具。

穿上外衣,再打一層鋼印

AI 生成的圖片要證明自己的身世,過去主要靠 C2PA 標準。這就像給圖片帶上一張數字身份證,裡面寫著誰在什麼時間、用什麼工具生成的,並附帶加密簽名。只要平臺支援,就能層層傳遞。

但身份證有個致命缺陷:它太脆弱了。社交平臺一壓縮、有人截個圖,或者換個格式,後設資料就可能直接被剝離掉。

這次 OpenAI 找 Google 借來的 SynthID,解決的就是這個問題。它不是浮在表面的後設資料,而是一種直接改動畫素分佈但肉眼完全看不見的水印。就算圖片被裁切、截圖或者多次轉存,這個訊號依然能存活下來。

按照 OpenAI 的說法,C2PA 負責提供豐富的背景資訊,SynthID 負責在後設資料丟失後兜底。兩者加在一起,才算形成了一個互補的防護鏈條。

查真偽容易,但不敢說死

為了讓普通人也能驗證,OpenAI 推出了公開檢測頁面,讓使用者直接上傳圖片,系統會自動檢索其中有沒有 C2PA 憑證和來自 OpenAI 的 SynthID 水印。

後續他們還把這套機制擴充套件到了音訊檔案,並推出了面向開發者和機構的驗證 API。到了 10 月,為了遵守歐洲的 AI 法案,文本溯源也開始在歐盟地區推行。

有意思的是 OpenAI 表現出來的剋制:如果工具測出了水印或後設資料,那可以確定是 OpenAI 做的;但如果什麼都沒測出來,它並不會下定論說「這不是 AI 生成的」。因為在現實的網路環境裡,對抗性攻擊或深度編輯完全有可能把水印破壞掉。

另一邊,Google 自己也在加速推進。據 Google 透露,他們的 SynthID 已經標記了超過 1000 億張影像影片和 6 萬年的音訊時長,其 Gemini App 內的溯源驗證已經被全球使用者使用了 5000 萬次。不僅是 OpenAI,Kakao 和 ElevenLabs 也在接入這項技術。

為什麼重要

我們認為,OpenAI 這次最大的動作不是做了一個網頁工具,而是選擇在底層技術上向 Google 的 SynthID 妥協和靠攏。AI 巨頭之間在模型上打得不可開交,但在內容溯源這種髒活累活上,大家終於意識到各自為戰毫無意義,必須形成統一的標準聯盟。

對普通人和創作者來說,這個網頁工具現在就可以去試試,但它的侷限也很明顯:它目前只能認「自己家」的孩子,如果一張假圖是開源模型跑出來的,這個工具給不了你任何實質性的保護。而且溯源防君子不防小人,真正別有用心的黑產只要重新取樣或重繪,依然能規避這種檢測。

但看起來,行業的大方向已經變了。以前各家只顧著生成能力有多炸裂,現在監管的壓力和虛假資訊的泛濫,倒逼著主流平臺必須把「給內容打標」做成基礎設施。當 Pixel 手機開始在拍攝時就給原圖打上真實憑據,而各大 AI 公司又給生成內容埋進隱形水印,網際網路的防禦機制正在從被動識別,轉向全流程的追根溯源。

來源 (2)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com
  2. [2]
    blog.google(在新分頁開啟)報導blog.google

每日 AI 內容精選