跳到正文
IFAI

產業動態

Google 搜尋將標記 AI 圖片:基於 C2PA 後設資料,年底前上線

首次發布 傳播指數 37

Google 宣佈將在未來幾個月內,在搜尋、Google Lens 及「圈選即搜」中標記 AI 生成或修改的圖片。標記主要依賴 C2PA 後設資料標準,但該標準目前普及度有限且後設資料容易被抹除。

Google 搜尋將標記 AI 圖片:基於 C2PA 後設資料,年底前上線
圖:techcrunch.com

網上看到一張離奇的照片,你可能習慣順手在 Google 裡搜一下來源。但如果這張圖根本不是拍出來的,而是 AI 捏出來的呢?

Google 剛剛給出了自己的答案。9 月 17 日,Google 宣佈將在未來幾個月內調整搜尋功能,開始明確標出搜尋結果裡哪些圖片是由 AI 生成或由 AI 工具修改過的。

具體來說,這些標記會出現在 Google 搜尋的「關於此圖片」視窗、Google Lens 智慧鏡頭,以及 Android 系統的「即圈即搜」功能裡。未來這項機制還可能擴充套件到 YouTube 等其他產品,Google 表示今年晚些時候會公佈更多細節。

查驗身份,全靠一張「電子身份證」

聽起來很省心,但這裡有一個巨大的門檻:Google 只認包含 C2PA 後設資料的圖片。

所謂 C2PA,是一個由科技巨頭聯合推動的標準組織,包括 Google、Amazon、Microsoft、OpenAI 和 Adobe 都在裡面。這套標準就像給圖片塞了一張數字防偽標籤,記錄下它是用什麼裝置拍的、被什麼軟體改過。

問題在於,這張防偽標籤目前根本沒多少人用。據 The Verge 報道,C2PA 在行業普及和相容性上麻煩不斷,現在支援這套規格的生成式 AI 工具屈指可數,硬體端也只有徠卡和索尼的部分相機跟進。

更要命的是,像所有後設資料一樣,C2PA 資料很容易被抹掉、清洗,或者在反覆上傳壓縮中損壞變質,導致系統根本讀不出來。

比如現在很多人在玩的熱門生成模型 Flux,也就是馬斯克的 xAI 旗下 Grok 聊天機器人用的畫圖模型,生成的圖片就完全沒有 C2PA 後設資料,因為開發團隊壓根沒加入這項協議。

換句話說,惡意造假的人如果故意用不支援 C2PA 的工具,或者隨手抹掉後設資料,Google 的防線就直接失效了。

為什麼重要

防君子不防小人的標籤,到底值不值得做?答案依然是值得,因為假圖氾濫的速度實在太快了。

有資料顯示,2023 年到 2024 年涉及 AI 生成內容的詐騙案激增了 245%。德勤更是預測,全球因深度偽造造成的損失將從 2023 年的 123 億美元暴增到 2027 年的 400 億美元。多項調查也顯示,絕大多數普通人都很害怕自己被 AI 假圖矇騙,或者被虛假宣傳牽著鼻子走。

對普通使用者來說,未來用 Android 手機圈圖搜尋時,至少能一眼挑出那些「老實標註」的正規商業 AI 圖片,查證門檻低了不少。但大家千萬不能覺得沒標 AI 就一定是真照片,這種信任盲區反而可能讓新型詐騙鑽空子。

我們認為,Google 這步棋看起來更像是在以大欺小、倒逼產業鏈。作為全球最大的搜尋引擎入口,Google 站隊 C2PA,等於在逼著Midjourney、開源社群和其他相機廠商站隊,誰不接入,誰的內容在搜尋裡就拿不到權威背書。

但這場貓鼠遊戲的主動權始終不在標籤這一邊。在真正的數字水印和演算法檢測成熟之前,靠自覺填寫的後設資料來防假圖,更像是一場科技巨頭之間的合規演練,離徹底解決虛假資訊還差得很遠。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

話題追蹤Google AI 內容標籤政策

這個話題的歷次新聞,最新的在上面。

  1. Google 搜尋將標記 AI 圖片:基於 C2PA 後設資料,年底前上線本則
  2. Google 升級「關於此圖片」:圈選就能查圖源,還能辨別 AI 偽造
  3. Google 規範政治廣告:勾選 AI 合成後,系統自動生成披露標籤

每日 AI 內容精選