跳到正文
IFAI

AI工具

反击 AI 抓取:芝加哥大学投毒工具 Nightshade 开放下载

首次发布 传播指数 63

芝加哥大学团队正式推出免费工具 Nightshade v1.0,供创作者给画作像素级「投毒」。作品在肉眼看来几乎没变,未经许可抓取的 AI 模型却会严重错乱,比如把牛学成手提包。其目的不是搞破坏,而是大幅抬高未经授权抓取数据的代价,倒逼 AI 公司付费买版权。

反击 AI 抓取:芝加哥大学投毒工具 Nightshade 开放下载
图:venturebeat.com

Nightshade 是芝加哥大学团队开发的一款免费桌面工具,专门帮创作者给数字画作「投毒」,反击未经授权抓取图像训练的 AI 模型。

它的核心逻辑是把 AI 的机制反过来对付 AI。工具底层调用 PyTorch 识别画面内容,然后在像素层注入肉眼几乎看不出的扰动。人类看过去依然是一幅草地上的奶牛,但抓取该图片的 AI 模型会把它识别成一只大皮包。

它能做到什么

和团队一年前推出的风格防护工具 Glaze 相比,Glaze 只是防守性质地伪装笔触和画风,Nightshade 则是一件纯粹的进攻性武器。

一旦有 AI 模型在训练中吃下一定数量被投毒的图片,不仅会学错这批画,连带整个模型的认知都会错乱。之后哪怕用户输入「画一头在太空飞行的奶牛」,模型也会生成一个悬浮的手提包。研究团队估计,可能只需要不到 100 张被污染的样本,就足以破坏某个概念的生成能力。

更狠的是抗干扰能力。这套机制并不是脆弱的数字水印或隐写术。你对图片进行裁剪、重采样、压缩、平滑像素甚至添加噪点,毒性依然存在。哪怕别人直接对屏幕截图,或者拿手机对着显示器拍照,干扰效果照样保留。

研发团队建议,创作者可以先用 Nightshade 处理图片,再叠加 Glaze。目前两款工具的整合版也已经在开发中。

硬件要求与使用门槛

Nightshade 目前支持 Mac 和 Windows 双平台,均为本地运行。

Mac 用户需要搭载 Apple Silicon 芯片的设备,支持 M1、M2 或 M3,安装包约 255MB,目前仅支持 CPU 运算。Windows 用户需要 Win10 或 Win11 系统,安装包约 2.6GB,支持 CPU 或指定的英伟达显卡加速。

初次运行需要联网,并预留大约 4GB 硬盘空间下载机器学习依赖库。如果你之前已经装过 Glaze,这两款工具可以复用本地资源包,不需要重新大体量下载。

需要注意的是,由于发布初期下载需求过载,有部分用户反馈下载耗时长达 8 小时。另外软件遵循严格的最终用户许可协议,禁止逆向修改底层源码,也不允许将工具用于任何商业分发目的。

为什么重要

如果你是经常在公开网络发图的画师、摄影师或独立创作者,Nightshade 值得立刻装进你的发布工作流。它不影响人眼观感,却能给未经授权的爬虫埋下暗雷,而且免费、本地运行,没有把作品上传到第三方服务器的隐私泄露风险。

这套工具在业内引发了不小争议,甚至有人批评它是对 AI 公司的「网络攻击」。但芝加哥大学团队说得很清楚,工具的目的不是为了毁掉生成式 AI,而是大幅拉高未经许可抓取全网公开数据的清洗成本。当筛选和排毒的代价变得极其高昂时,掏钱向创作者购买正规版权授权,就成了商业公司最划算、也最现实的唯一选择。

来源 (3)

  1. [1]
    venturebeat.com(在新标签页打开)原文venturebeat.com
  2. [2]
  3. [3]

话题追踪艺术家对抗 AI 抓取的工具开发

这个话题的历次新闻,最新的在上面。

  1. 如何防止画作被 AI 拿去训练:从官方退出到 Glaze 与 Nightshade 防护
  2. 反击 AI 抓取:芝加哥大学投毒工具 Nightshade 开放下载本条
  3. 艺术家反击 AI 抓取:芝加哥大学团队推出数据投毒工具 Nightshade
  4. Spawning 上线 Kudurru:阻击 AI 爬虫,创作者还能用假图「投毒」反击

每日 AI 内容精选