跳到正文
IFAI

AI工具

反擊 AI 抓取:芝加哥大學投毒工具 Nightshade 開放下載

首次發布 傳播指數 63

芝加哥大學團隊正式推出免費工具 Nightshade v1.0,供創作者給畫作畫素級「投毒」。作品在肉眼看來幾乎沒變,未經許可抓取的 AI 模型卻會嚴重錯亂,比如把牛學成手提包。其目的不是搞破壞,而是大幅抬高未經授權抓取資料的代價,倒逼 AI 公司付費買版權。

反擊 AI 抓取:芝加哥大學投毒工具 Nightshade 開放下載
圖:venturebeat.com

Nightshade 是芝加哥大學團隊開發的一款免費桌面工具,專門幫創作者給數字畫作「投毒」,反擊未經授權抓取影像訓練的 AI 模型。

它的核心邏輯是把 AI 的機制反過來對付 AI。工具底層呼叫 PyTorch 識別畫面內容,然後在畫素層注入肉眼幾乎看不出的擾動。人類看過去依然是一幅草地上的奶牛,但抓取該圖片的 AI 模型會把它識別成一隻大皮包。

它能做到什麼

和團隊一年前推出的風格防護工具 Glaze 相比,Glaze 只是防守性質地偽裝筆觸和畫風,Nightshade 則是一件純粹的進攻性武器。

一旦有 AI 模型在訓練中吃下一定數量被投毒的圖片,不僅會學錯這批畫,連帶整個模型的認知都會錯亂。之後哪怕使用者輸入「畫一頭在太空飛行的奶牛」,模型也會生成一個懸浮的手提包。研究團隊估計,可能只需要不到 100 張被汙染的樣本,就足以破壞某個概念的生成能力。

更狠的是抗干擾能力。這套機制並不是脆弱的數字水印或隱寫術。你對圖片進行裁剪、重取樣、壓縮、平滑畫素甚至新增噪點,毒性依然存在。哪怕別人直接對螢幕截圖,或者拿手機對著顯示器拍照,干擾效果照樣保留。

研發團隊建議,創作者可以先用 Nightshade 處理圖片,再疊加 Glaze。目前兩款工具的整合版也已經在開發中。

硬體要求與使用門檻

Nightshade 目前支援 Mac 和 Windows 雙平臺,均為本地執行。

Mac 使用者需要搭載 Apple Silicon 晶片的裝置,支援 M1、M2 或 M3,安裝包約 255MB,目前僅支援 CPU 運算。Windows 使用者需要 Win10 或 Win11 系統,安裝包約 2.6GB,支援 CPU 或指定的輝達顯示卡加速。

初次執行需要聯網,並預留大約 4GB 硬碟空間下載機器學習依賴庫。如果你之前已經裝過 Glaze,這兩款工具可以複用本地資源包,不需要重新大體量下載。

需要注意的是,由於釋出初期下載需求過載,有部分使用者反饋下載耗時長達 8 小時。另外軟體遵循嚴格的終端使用者許可協議,禁止逆向修改底層原始碼,也不允許將工具用於任何商業分發目的。

為什麼重要

如果你是經常在公開網路發圖的畫師、攝影師或獨立創作者,Nightshade 值得立刻裝進你的釋出工作流。它不影響人眼觀感,卻能給未經授權的爬蟲埋下暗雷,而且免費、本地執行,沒有把作品上傳到第三方伺服器的隱私洩露風險。

這套工具在業內引發了不小爭議,甚至有人批評它是對 AI 公司的「網路攻擊」。但芝加哥大學團隊說得很清楚,工具的目的不是為了毀掉生成式 AI,而是大幅拉高未經許可抓取全網公開資料的清洗成本。當篩選和排毒的代價變得極其高昂時,掏錢向創作者購買正規版權授權,就成了商業公司最划算、也最現實的唯一選擇。

來源 (3)

  1. [1]
    venturebeat.com(在新分頁開啟)原文venturebeat.com
  2. [2]
  3. [3]

話題追蹤藝術家對抗 AI 抓取的工具開發

這個話題的歷次新聞,最新的在上面。

  1. 如何防止畫作被 AI 拿去訓練:從官方退出到 Glaze 與 Nightshade 防護
  2. 反擊 AI 抓取:芝加哥大學投毒工具 Nightshade 開放下載本則
  3. 藝術家反擊 AI 抓取:芝加哥大學團隊推出資料投毒工具 Nightshade
  4. Spawning 上線 Kudurru:阻擊 AI 爬蟲,創作者還能用假圖「投毒」反擊

每日 AI 內容精選