Google 推出 SynthID:给 AI 生图打上肉眼看不见的隐形水印
Google DeepMind 联合 Google Cloud 发布 SynthID 测试版。该工具将数字水印直接嵌入图像像素,肉眼无法察觉,加滤镜或压缩后依然能被检测出来。目前该功能正面向 Vertex AI 平台使用 Imagen 的部分客户开放测试。
网上那些逼真的 AI 生成图,普通人用肉眼已经很难分清真假了。
过去大家防伪最常用的招数,要么在图片角落盖个显眼的半透明水印,要么依赖文件里附带的元数据。但这两招都有明显的硬伤:角落的水印随手裁一下就没了,元数据只要经过截图、转存或者社交平台压缩,往往也会被洗得干干净净。
针对这个让人头疼的造假和溯源问题,Google DeepMind 联手 Google Cloud 拿出了一个新工具:SynthID。
把水印直接揉进像素里
SynthID 的思路和传统盖戳完全不同。它把数字水印直接织进了图片的像素里面,人类肉眼看过去,画面没有任何异样,但对算法来说,它却清清楚楚。
更关键的是抗折腾能力。以往一些隐形水印非常脆弱,图片只要稍微改个尺寸可能就失效了。按照 DeepMind 的说法,SynthID 在图片经过加滤镜、调色、以及常见的 JPEG 有损压缩等常规编辑之后,依然能够被识别出来。
这套技术背后其实是两个一起训练的深度学习模型。一个模型负责在生成图片时顺手打上水印,还要保证画面质量不受影响;另一个模型则负责扫描图片,给出三个不同层级的置信度判断,告诉检测者这幅图到底有多大可能是由自家 Imagen 模型生成的。
目前 SynthID 已经上线了测试版,先面向 Vertex AI 上使用 Imagen 文生图模型的部分客户开放。
不过官方也坦白交代,它现在还做不到绝对防御,遇到极端的恶意篡改依然可能会失效。此外,这套系统目前主要识别的是 Imagen 生成的内容,而不是全网通用的万能钥匙。
为什么重要
随着文生图模型能力越来越强,虚假信息的制作成本被拉到了地板上。平台和用户急需一种既不破坏画面观感、又很难被轻易抹掉的验真手段。
对企业和开发者来说,在云端调用生成接口的同时自动嵌入像素级暗标,省去了自己搭审核和防伪链路的麻烦。不过现在 SynthID 还只在 Vertex AI 的小圈子里测试,普通用户暂时没法直接在网页上随手传张图去验真。
我们认为,Google 这一步走得很聪明,它把防伪能力做成了云服务的底座功能,直接抢占了生成式 AI 负责任落地的技术标准。但隐患也很现实:像素水印目前依然是自家模型的闭环检测,无法防范开源模型或者其他竞争对手的生成图。
如果未来这项技术真能像 DeepMind 规划的那样,进一步拓展到音频、视频和文本,甚至成为行业通用的检测接口,数字内容的信任链条才算真正有了着落。
来源 (1)
- deepmind.com(在新标签页打开)原文deepmind.com
话题追踪Google AI 安全与水印计划
- Google 上线图片核查工具:查首次收录时间,还能识别 AI 生成
- Google 推出 SynthID:给 AI 生图打上肉眼看不见的隐形水印本条
- Google 签署负责任 AI 承诺:给生成内容加水印,推进红队安全测试