跳到正文
IFAI

AI工具

Google 推出 SynthID Detector:一鍵檢測文本、影像與音影片中的 AI 水印

首次發布 傳播指數 37

Google 推出驗證門戶 SynthID Detector,可一站式檢測文本、音訊、影像和影片中是否嵌入了 SynthID 水印,並圈出具體片段。目前已圈定超 100 億件內容的水印,正先面向記者、媒體和研究人員開放候補申請。

Google 推出 SynthID Detector:一鍵檢測文本、影像與音影片中的 AI 水印
圖:blog.google

網上現在看到一張逼真的圖或者一段神級音效,大家第一反應都是:這不會是 AI 做的吧?雖然大廠們早就開始給自家 AI 內容打隱形水印,但問題是,普通人和媒體手裡根本沒有驗真工具,所謂的透明度就成了一句空話。

Google 正式推出了 SynthID Detector 驗證門戶,把這項鑑別能力交了出來。這是一個專門用來快速識別 AI 生成內容的網頁工具,目前正先向記者、媒體從業者和研究人員開放排隊名單。

一站式查驗四種模態

SynthID 最早只用來給 AI 圖片打水印,後來才慢慢覆蓋到文本、音訊和影片。按照 Google 給出的資料,目前全網已經有超過 100 億件內容被打上了 SynthID 水印,涵蓋了自家的 Gemini、Imagen、Lyria 以及 Veo 等主力模型。

這次上線的 SynthID Detector 把這些模態整合成了一個入口。不管你手頭拿到的是一張圖、一段音訊、一個影片還是一段文字,只要是 Google AI 生成的,直接上傳就能掃描。

它不只是簡單給一個包含或不包含的結論,還會把具體可疑的部分高亮標出來。比如在音訊檔案裡,它會指出水印藏在具體的哪幾個片段;在圖片裡,它也會圈出最可能被打上水印的區域。

走出 Google 自己的院子

光能查 Google 自家的東西,作用顯然有限。Google 這次也在強調拉攏外部夥伴。

之前他們已經把 SynthID 的文本水印演算法開源,允許外部開發者直接塞進自己的模型裡。而在影片端,Google 之前就和 NVIDIA 達成合作,NVIDIA 在 build.nvidia.com 上的 Cosmos 預覽版 NIM 微服務生成的影片,也都會嵌入 SynthID 水印。

除了給內容打標,查驗端也需要盟友。Google 這次同時宣佈和內容驗證平臺 GetReal Security 合作,讓第三方的驗證工具也能支援掃描和識別 SynthID。

為什麼重要

我們認為,Google 這一步走得相當務實,但大家千萬別把它當成全網通用的 AI 照妖鏡。

它的聰明之處在於把只管打標變成了閉環體驗。以前隱形水印就像寫在背後的暗號,只有 Google 自己看得懂,現在開放給媒體和事實核查者,至少在遇到突發新聞或深度偽造爭議時,專業人員有了直接去求證官方源頭的抓手。

但這裡的隱患也同樣明顯。SynthID Detector 查的從來不是這件內容到底是不是 AI 做的,而是這裡面有沒有 Google 家族的水印。如果有人用未接入該技術的開源模型甚至黑產工具生成虛假資訊,或者把帶水印的內容進行大幅度重編碼與翻拍,這個工具很可能就無能為力了。

看起來,各家 AI 巨頭都在試圖建立自己的內容防偽護城河。可只要全行業還沒有通用的強制標準,核查人員就得在不同的檢測後臺之間來回奔波。它是一個重要的防守工具,但離真正的數字信任體系還有很長的路要走。

來源 (1)

  1. [1]
    blog.google(在新分頁開啟)原文blog.google

每日 AI 內容精選