Google 签署负责任 AI 承诺：给生成内容加水印，推进红队安全测试

现在各家都在拼命把大模型往外推，但谁来给 AI 踩刹车成了所有人都在问的问题。

Google 宣布与其他几家头部 AI 公司联合签署了一项行业自愿承诺，共同推进行业负责任的 AI 开发准则，配合 G7、OECD 以及多国政府在监管与安全上的举措。

除了表态，Google 这次拿出了不少具体技术手段，试图在假信息泛滥之前给生成式内容打上烙印。

搞红队演习，还要给生成内容打水印

为了防范大模型带来的安全风险，Google 正在把传统网络安全的打法搬进大模型体系。

官方表示正在推进此前发布的 SAIF（安全 AI 框架），并将漏洞赏金计划扩大到 AI 领域，用真金白银鼓励白帽黑客找模型漏洞。

在对抗性测试方面，Google 透露下个月会带着自家大模型去 DefCon 黑客大会参加红队演习，让外部安全专家公开找漏洞。

针对生成式 AI 带来的虚假图片与信息，Google 即将推出两套应对方案。

一方面，Google 打算直接在最新的生成模型里嵌入水印与元数据技术，从源头标明哪些内容由 AI 产生。

另一方面，Google 搜索很快会上线一项叫「关于此图片」（About this image）的功能，直接告诉用户这张图最早是什么时候出现在网上的。

从修红绿灯到看乳腺癌切片

Google 还在文中拉出了一份业务成绩单，证明自己很早就把大模型放进了真实业务场景。

早在 2017 年转型为「AI 优先」之后，搜索、翻译和地图底层都已经全面由 AI 驱动。

在社会问题上，Google 表示其 AI 模型在临床医学问题解答上的准确率已经超过 90%，并且正在协助筛查乳腺癌与预测洪水。

在城市治理中，AI 也被用来调整交通信号灯，减少走走停停的拥堵，借此减少汽车碳排放。

为了推动行业建立统一标准，Google 宣布将继续与 Partnership on AI、ML Commons 等第三方机构合作制定合成媒体的规范。

为什么重要

生成式 AI 跑了大半年，真正让人头疼的不是模型不够聪明，而是谁也分不清网上的内容到底是真是假。

对普通人来说，能在搜索引擎里一键查到图片的原始出处，或者在 AI 图片里埋下无法抹除的水印，是目前对抗深度伪造最实用的一步。

我们认为，Google 选择在这时候高调联合友商承诺安全，是一招聪明的以退为进。

与其等各国监管部门出台一刀切的硬性罚则，不如头部大厂先坐下来把技术门槛定好，比如要求全行业给生成内容加水印、做对抗性红队测试。

这既能安抚公众对 AI 失控的恐惧，又能凭借自身的安全基建给后来者拉高准入门槛。

不过，目前的承诺依然建立在自愿自律的基础上，水印技术能否经受住二次截图、压缩和篡改的考验，还有待实际检验。