AI学習を阻止する「毒入れ」ツールNightshadeが無償公開

Nightshadeは、シカゴ大学の研究チームが開発した無料のデスクトップツールだ。自身の作品が無断で画像生成AIの学習データとして収集されるのを防ぐため、画像に「毒」を仕込むことができる。

仕組みは極めて合理的だ。PyTorchを用いて画像内の被写体を認識し、ピクセル単位で微細な改変を加える。人間の目には元の草を食む牛の絵に見えるが、AIモデルにはそれが高級な革のハンドバッグとして認識される。

何ができるのか

開発チームが約1年前に公開した「Glaze」は、作家特有の画風模倣を防ぐ防御ツールだった。それに対し、今回のNightshadeは明確に「攻撃」を目的としている。

Nightshadeで処理された毒入り画像をスクレイピングして学習したAIモデルは、概念の対応関係に狂いが生じる。ユーザーが「牛」を描くよう指示しても、モデルは平然とハンドバッグを出力するようになる。開発陣によると、特定の概念を狂わせるには、わずか100枚足らずの毒入り画像が混入するだけで十分な可能性があるという。

耐久性の高さも特徴だ。これは脆弱な電子透かしやステガノグラフィではないため、トリミング、リサイズ、圧縮、ノイズ付加を行っても毒の効果は消えない。画面のスクリーンショットを撮ったり、ディスプレイをスマートフォンのカメラで撮影したりしても効果が維持される。

チームはまずNightshadeで毒入れを行い、その上でGlazeを併用することを推奨している。両者を統合したツールの開発も進められている。

動作環境と注意点

Nightshade v1.0は、MacとWindows向けにローカル動作アプリとして配布されている。

Mac版はApple Silicon（M1、M2、M3）を搭載した端末が必要で、CPU処理のみに対応する。インストーラーは約255MBだ。Windows版はWindows 10または11に対応し、ファイルサイズは約2.6GBで、対応するNvidia製GPUによるアクセラレーションも利用できる。

初回起動時には機械学習ライブラリの取得のため、インターネット接続と約4GBの空き容量が必要になる。すでにGlazeを導入している環境であればリソースファイルを共有できるため、追加の大容量ダウンロードは不要だ。

なお、公開直後はアクセス集中によりダウンロードに最大8時間かかったという報告もある。利用規約では商用利用やソースコードの改変が禁止されている点にも留意したい。

なぜ重要か

作品をSNSやポートフォリオサイトに公開せざるを得ないイラストレーターやクリエイターにとって、Nightshadeは今すぐ導入を検討すべき強力な自衛手段だ。人間の鑑賞体験を損なうことなく、スクレイピングを行う事業者に対して実質的な打撃を与えられる。

一部からはAI開発に対する「サイバー攻撃」だとの批判も上がっているが、開発チームの狙いはAIを破壊することではない。無許可収集のリスクとデータ選別のコストを限界まで引き上げることで、正規のライセンス契約を結んで対価を支払うほうが安上がりだという状況を作り出す点に、このツールの本質がある。