Kickstarter、生成AI利用プロジェクトに詳細な情報開示を義務付けへ

クラウドファンディングで支援したプロジェクトが、実はクリエイターの手描きではなく、他人の作品を無断学習した生成AIの出力物だった。そんなトラブルが相次ぐ中、Kickstarterが明確なルール作りに乗り出しました。

Kickstarterは、生成AIを利用したプロジェクトに対して詳細情報の開示を義務付ける新ポリシーを発表しました。適用開始は8月29日からで、それ以前に申請されたプロジェクトへの遡及適用は行われません。

どこまでが人間で、どこからがAIかを明記

新ルールのもとでは、画像、テキスト、音楽、音声などの生成にAIツールを使用したプロジェクトは、申請時に新たな質問票へ回答する必要があります。

起案者は、プロジェクト内でAIをどのように活用するのか、どの要素が完全にオリジナルの人間の手によるもので、どの要素がAIによって生成されたのかを詳細に説明しなければなりません。承認された場合、プロジェクトページ上の新設される「Use of AI（AIの利用）」セクションにその内容が明記されます。

さらに厳しいのが、AI技術やツールそのものを開発するプロジェクトです。起案者は学習データの出典を開示し、著作者への許諾やクレジット付与がどう処理されているか、オプトアウトやオプトインなどの保護措置が導入されているかを説明する義務を負います。

虚偽の申告や情報の不開示が発覚した場合、プロジェクトの中止処分を受ける可能性があります。

相次いだトラブルと手動審査の限界

Kickstarterはこれまで、生成AIへの対応で揺れ動いてきました。

昨年末には、セーフティフィルターを持たず成人向け画像も生成可能な「Unstable Diffusion」の資金調達プロジェクトを停止。最近でも、既存のオリジナル漫画をAIで盗用したプロジェクトを誤って承認し、批判を受けて削除する事態が発生していました。

同社のトラスト＆セーフティ担当ディレクターであるSusannah Page-Katz氏は、コミュニティとの対話を通じて最も求められていたのは「透明性」だったと説明しています。

なぜ重要か

支援者にとっては、出資判断のための大きな安心材料になります。イラスト集やボードゲームの制作過程でAIがどの程度使われているかを事前に把握できるため、納得した上で支援できるようになります。

一方で、AIツールやソフトウェアを開発するスタートアップにとっては、ハードルが極めて高くなります。OpenAIをはじめとする大手テック企業でさえ、法的責任や競争上の理由から最新モデルの学習データを公開していません。個人の開発者がクリーンな学習データと許諾プロセスを証明するのは容易ではないはずです。

私たちは、KickstarterがAIを一律に禁止するのではなく、情報開示による透明性の担保を選んだ点を現実的で賢明な判断だと評価しています。

ただし、課題は実行力に残ります。AI生成物を完全に検知する技術が存在しない以上、プラットフォームの人間による審査がどこまで偽りの申請を見抜けるかについては、依然として懸念が残ります。