Spawningが「Kudurru」公開：画像生成AIのスクレイピングを遮断、偽画像で「毒入れ」も

画像生成AIが登場した際、瞬時に精細な絵を出力する様子は魔法のように見えました。しかし作品を無断で学習データとして吸い上げられたイラストレーターや写真家にとっては、ただの権利侵害にほかなりません。こうした中、クリエイターがAIクローラーに直接反撃できる新ツールが登場しました。

過去にAI学習確認サイト「Have I Been Trained?」を手がけたスタートアップのSpawningは、スクレイピングをリアルタイムで検知・妨害するツール「Kudurru」のベータ版を公開しました。名前は古代メソポタミアで土地の境界と所有権を示した石碑に由来します。

ハニーポットで追跡し、中指画像を撃ち返す

画像生成モデルの多くは、LAION-5Bのような大規模データセットがまとめたURLリストをもとに、ウェブ上から画像を直接ダウンロードして学習を行います。Kudurruはこの取得ルートを逆手に取ります。

SpawningはLAION-5Bに登録された画像を置いた1000以上のハニーポットサイトを運用し、収集に来たクローラーのIPアドレスをリアルタイムでブラックリスト化しています。7月の内部テストでは、LAION-5Bをダウンロードしていたすべてのスクレイピング処理を約2時間にわたって遮断することに成功しました。地域別の観測では、現在中国からのアクセスが最も多いといいます。

Kudurruを導入したサイト運営者は、該当IPからのアクセスを遮断するだけでなく、別の画像を返して学習データを汚染させるポイズニングを選択できます。返す画像は自由に設定でき、Spawningの共同創業者Jordan Meyer氏は「中指を立てた画像を送り続けることもできる」と語っています。これを繰り返せば、モデルが特定の作家名を学習する際に卑猥なジェスチャーを誤って紐付ける可能性があります。

個人向けに無料開放、ただし抜本的解決には程遠い

企業向けボット対策大手のDataDomeは、顧客の7割がChatGPTなどのAI遮断を求めていると明かしていますが、そうした商用サービスは個人には手が出ない価格設定です。またシカゴ大学のGlazeのように画像に不可視の透かしを入れて画風模倣を防ぐツールもありますが、Kudurruはネットワーク遮断とデータ汚染に特化し、WordPressプラグインとして無料で配布されます。

一方で、クリエイター側の負担を問題視する声もあります。作家のMolly Crabapple氏は、巨大テック企業から自作を守るために被害者側がもぐら叩きを強いられる現状を批判し、法制化による解決こそが必要だと指摘しています。

なぜ重要か

個人の創作者にとって、Kudurruは自分のポートフォリオサイトを守る実用的な自衛手段になります。WordPressを使っているイラストレーターや写真家なら、無料プラグインを入れるだけで無断収集を弾くことができ、試すハードルは極めて低いです。

業界全体への影響としては、AI開発企業がこれまで無料の資源として扱ってきたウェブデータに、明確なコストとリスクを突きつけた点が挙げられます。データ汚染が広がれば、スクレイピング後のクリーニング負担は跳ね上がり、無差別な収集手法の見直しを迫られることになります。

私たちの見解として、受動的な防御にとどまらず汚染データで反撃するというアプローチは非常に巧みです。ただし、相手がIPアドレスを変えればすり抜けられる可能性があり、テキストの収集にはまだ対抗できません。技術的な対抗策はあくまで時間を稼ぐためのブレーキであり、権利者保護の標準化に向けた法整備が進むかどうかが本質的な分水嶺になりそうです。