Google 簽署負責任 AI 承諾：給生成內容加水印，推進紅隊安全測試

現在各家都在拼命把大模型往外推，但誰來給 AI 踩剎車成了所有人都在問的問題。

Google 宣佈與其他幾家頭部 AI 公司聯合簽署了一項行業自願承諾，共同推進行業負責任的 AI 開發準則，配合 G7、OECD 以及多國政府在監管與安全上的舉措。

除了表態，Google 這次拿出了不少具體技術手段，試圖在假資訊氾濫之前給生成式內容打上烙印。

搞紅隊演習，還要給生成內容打水印

為了防範大模型帶來的安全風險，Google 正在把傳統網路安全的打法搬進大模型體系。

官方表示正在推進此前釋出的 SAIF（安全 AI 框架），並將漏洞賞金計劃擴大到 AI 領域，用真金白銀鼓勵白帽駭客找模型漏洞。

在對抗性測試方面，Google 透露下個月會帶著自家大模型去 DefCon 駭客大會參加紅隊演習，讓外部安全專家公開找漏洞。

針對生成式 AI 帶來的虛假圖片與資訊，Google 即將推出兩套應對方案。

一方面，Google 打算直接在最新的生成模型裡嵌入水印與後設資料技術，從源頭標明哪些內容由 AI 產生。

另一方面，Google 搜尋很快會上線一項叫「關於此圖片」（About this image）的功能，直接告訴使用者這張圖最早是什麼時候出現在網上的。

從修紅綠燈到看乳腺癌切片

Google 還在文中拉出了一份業務成績單，證明自己很早就把大模型放進了真實業務場景。

早在 2017 年轉型為「AI 優先」之後，搜尋、翻譯和地圖底層都已經全面由 AI 驅動。

在社會問題上，Google 表示其 AI 模型在臨床醫學問題解答上的準確率已經超過 90%，並且正在協助篩查乳腺癌與預測洪水。

在城市治理中，AI 也被用來調整交通訊號燈，減少走走停停的擁堵，藉此減少汽車碳排放。

為了推動行業建立統一標準，Google 宣佈將繼續與 Partnership on AI、ML Commons 等第三方機構合作制定合成媒體的規範。

為什麼重要

生成式 AI 跑了大半年，真正讓人頭疼的不是模型不夠聰明，而是誰也分不清網上的內容到底是真是假。

對普通人來說，能在搜尋引擎裡一鍵查到圖片的原始出處，或者在 AI 圖片裡埋下無法抹除的水印，是目前對抗深度偽造最實用的一步。

我們認為，Google 選擇在這時候高調聯合友商承諾安全，是一招聰明的以退為進。

與其等各國監管部門出臺一刀切的硬性罰則，不如頭部大廠先坐下來把技術門檻定好，比如要求全行業給生成內容加水印、做對抗性紅隊測試。

這既能安撫公眾對 AI 失控的恐懼，又能憑藉自身的安全基建給後來者拉高准入門檻。

不過，目前的承諾依然建立在自願自律的基礎上，水印技術能否經受住二次截圖、壓縮和篡改的考驗，還有待實際檢驗。