跳到正文
IFAI

行业动态

Google 联手 StopNCII:用数字指纹主动清理搜索中的非自愿亲密影像

首次发布 传播指数 38

Google 宣布与 StopNCII.org 达成合作。未来几个月内,Google 搜索将接入 StopNCII 的图像与视频哈希指纹,主动识别并删除侵权影像,不再只依赖受害者被动申请下架,以此减轻受害者的维权负担。

Google 联手 StopNCII:用数字指纹主动清理搜索中的非自愿亲密影像
图:blog.google

私密照片一旦被恶意泄露到网上,受害者往往要陷入无休止的打地鼠游戏:搜出一个链接,申请删一个,第二天又在别的地方冒出来。

面对这种精神折磨,单靠受害者自己到处投诉显然不够用。9 月 17 日,Google 宣布与英国慈善机构 SWGfL 旗下的 StopNCII.org 达成合作,打算直接把防线往前推一步。

未来几个月内,Google 搜索将开始引入 StopNCII 的哈希值技术,在搜索结果中主动识别并下架违规的非自愿私密图像。

不用交出照片,也能给隐私上一把锁

很多人一听到数字指纹,第一反应可能是要把自己的私密照上传给第三方,这反而让人更害怕二次泄露。

StopNCII.org 的机制避免了这个问题。成年人可以在自己的设备本地为私密照片或视频生成唯一的数字指纹,也就是一段哈希值代码,原始照片根本不需要离开手机或电脑。

这些哈希值会被同步给参与计划的科技公司。平台只要在抓取或审核内容时比对指纹,就能立刻发现违规内容,根本不需要真人审核员去肉眼查看照片。

Google 此前虽然也提供了删除申请入口,并一直调整搜索排名算法来压低这类内容的权重,但依然属于被动防御。

官方表示,受害者和维权机构反馈,开放网络的内容量实在太大,让受害者自己去网上搜寻并逐条申请删除,负担太重,这也是他们转向主动检测的原因。

在宣布这项合作的当天,Google 还在伦敦举行的 NCII 峰会上,与政策制定者和行业代表一起探讨跨平台治理的方案。

为什么重要

对每一个普通人来说,这代表维权逻辑终于从被动挨打变成了主动防御。任何人都不用冒着隐私二次泄露的风险,只要在本地生成指纹,就能借助 Google 的搜索引擎体量,在源头上掐断照片被更多人搜到的可能。对不幸遭遇侵害的人来说,至少不用再每天逼着自己去搜索那些伤害自己的画面。

对整个行业而言,Google 搜索的加入补齐了最关键的一块拼图。StopNCII 原本更多应用在社交网络和特定平台上,但很多泄露图片的最终传播节点其实是搜索引擎。全球最大的搜索入口开始全面接入这套哈希库,会直接倒逼其他搜索引擎和图床网站跟进这一标准。

我们认为 Google 这一步走得很务实。打击私密图像泄露最难的地方就在于取证和隐私保护的冲突,如果审核机制本身需要接触原图,就会造成二次伤害。借助本地哈希化这种去中心化的方式,既解决了信任问题,又大幅降低了治理成本。

不过这也留下了现实隐患。哈希算法对细微裁剪、翻拍、加滤镜或 AI 重绘之后的变种图像是否依然能稳定匹配,目前在技术上仍有盲区。如果恶意传播者故意微调图片绕过指纹,平台依然需要更强的内容理解能力来堵住漏洞。

来源 (1)

  1. [1]
    blog.google(在新标签页打开)原文blog.google

每日 AI 内容精选