跳到正文
IFAI

行业动态

微软升级防深伪侵权:扩大拦截 AI 亲密图像,覆盖 OneDrive 和 Xbox

首次发布 传播指数 37

Microsoft 宣布升级针对非自愿亲密图像(NCII)的防御机制,将 AI 生成图像与真实照片同等对待。新措施优化了全球举报表单,并将 StopNCII.org 哈希检测扩展至 Teams 免费版、OneDrive 及 Xbox,以自动拦截违规内容。

微软升级防深伪侵权:扩大拦截 AI 亲密图像,覆盖 OneDrive 和 Xbox
图:blogs.microsoft.com

如果有人未经允许把你的私密照片发到网上,甚至是拿 AI 把你的脸合成上去,最让人崩溃的往往不是找人理论,而是维权时复杂漫长的流程。

面对满屏的法律术语和申诉入口,受害者往往要反复自证,还得提防照片二次泄露。针对这个问题,微软在 5 月 27 日宣布全面升级防御体系,把打击非自愿私密图像(NCII)的范围直接扩大到多项核心消费级产品。

这次调整不仅把真人照片和 AI 生成图放在了同等严格的审核标准下,还打通了多个日常产品线。

把防护网铺进网盘、主机和聊天工具

很多人不知道,微软早在两年前就给非营利反侵权平台 StopNCII.org 提供了升级版 PhotoDNA 技术。它的厉害之处在于,受害者在自己的设备本地就能生成照片的数字特征码,也就是哈希值,根本不需要把原图上传到网上。

微软从 2024 年 9 月开始在 Bing 搜索引擎上拿这套哈希库做试点。而这次他们正式把验证过的 StopNCII.org 哈希比对,推广到了 Teams Free、OneDrive 和 Xbox。

这意味着只要特征码对得上,系统就会在这些消费端服务中加速拦截和下架。微软表示会在合适的地方使用自动化手段加快清理,同时保留人工审核和清晰的申诉通道,防止误伤。

举报入口也做了翻新。微软在产品内整合了更直观的举报表单,不再区分这是真拍的还是 AI 捏造的,统一按非自愿私密图像违规处理,降低受害者在紧急关头填写表单的心智负担。

除了技术围堵,微软还拉上英国公益组织 Childnet,专门针对青少年推出了预防 AI 滥用生成私密图像的科普材料。这套内容不仅在英国上线,还针对新加坡、韩国和日本做了本土化落地。

为什么重要

对于普通用户和家长来说,这次升级最实在的地方,是让维权终于不再需要「把隐私再剥开一次」。过去很多人不敢去维权,就是怕为了证明侵权而把私密照片传给第三方。现在设备端直接生成哈希指纹,连网盘和游戏主机这类私域或半公开场景也能覆盖,确实给受害者省去了极大的心理负担。

对行业来说,这也是大厂在监管高压下的一次标准收拢。本月美国《Take It Down Act》刚开始生效,欧盟也在严厉打击一键生成裸照的恶意软件,英国监管机构 Ofcom 同样拿出了更严的合规细则。微软这次抢先把 AI 伪造图和真实偷拍放在同一个危害等级来处理,我们认为这会逼着其他持有云存储和社交业务的平台快速跟进,以后谁要是还在申诉时把 AI 假图当次要问题处理,很难向监管交代。

不过看起来这套方案也有盲区。哈希拦截的前提是受害者主动去平台建了特征码,或者网上已经有人立案生成了指纹。对于那些在熟人小圈子里私下流传、受害者本人甚至毫不知情的 AI 换脸图,单纯靠哈希库很难做到第一时间预警。技术把关虽然更密了,但真正的隐患往往依然藏在暗处。

来源 (1)

  1. [1]
    blogs.microsoft.com(在新标签页打开)原文blogs.microsoft.com

每日 AI 内容精选