AI学習を阻止する「毒入れ」ツールNightshadeが無償公開
シカゴ大学の研究チームが、無断のAI学習を妨害する無料ツール「Nightshade v1.0」の配布を開始した。人間の目には通常通りに見えるが、AIには牛がハンドバッグに見えるようピクセル単位で加工する。モデルを壊すのが目的ではなく、無断収集のコストを引き上げて正規ライセンスを促す狙いがある。
Nightshade
画像生成AIの無断学習に対抗、シカゴ大がデータ汚染ツール「Nightshade」発表
シカゴ大学の研究チームがデータ汚染ツール「Nightshade」を発表した。作品に肉眼では見えないピクセル加工を施すことで、AIが無断収集して学習した際にモデルを狂わせ、犬を猫として生成させるなどの不具合を起こす。無許可学習への抑止力としてオープンソース化が予定されている。