画像生成AIは原画を「記憶」している：Stable Diffusionなど既存画像の複製リスクが判明

AI による画像生成を擁護する人たちは、AI も人間の画家と同じように過去の作品から着想を得ており、出力されるものはすべて完全な新作だと主張してきた。

だが、その言い分を覆す研究結果が発表された。

Google Brain、DeepMind、カリフォルニア大学バークレー校、プリンストン大学などの共同研究チームは、Stable Diffusion や Google の Imagen などの拡散モデルが訓練画像を「暗記」し、特定のプロンプトを与えられると元の画像をほぼそのまま複製出力することを実証した。

30万件のプロンプトから見えた「記憶」の証拠

研究を率いたのは、かつて言語モデル GPT-2 のデータ漏洩を突き止めた Google Brain の研究者 Nicholas Carlini 氏らのチームだ。

検証方法は明快だった。Stable Diffusion の学習元である巨大画像データセット「LAION」から画像の説明文（キャプション）を取り出し、それをプロンプトとしてモデルに入力。生成された画像を学習データと手作業で照合した。

その結果、微細なデジタルノイズを除けば、学習セット内の画像と完全に一致する複製品が出力されるケースが確認された。

研究に参加したバークレー校の Eric Wallace 氏とプリンストン大学の Vikash Sehwag 氏によると、約 30 万件のキャプションを試したところ、複製率は約 0.03% だったという。確率としてはごく稀だが、ゼロではない事実が浮き彫りになった。

モデルの巨大化が招くプライバシーの危機

研究チームが警告するのは、今後のリスクの増大だ。

画像生成モデルは本来、新たな画像を「汎化」して生み出すべきもので、元のデータをそのまま吐き出す設計ではない。しかし研究では、Google の Imagen がデータセット内に一度しか存在しない画像すら記憶・再現できることが判明した。

さらに、モデルが大型化・高性能化するほど、学習データの記憶容量が増え、複製を出力する確率は跳ね上がる。過去の GAN 方式では見られなかったこの現象は、現在主流となっている拡散モデル全般に潜む弱点だという。

スイス連邦工科大学チューリッヒ校（ETH Zurich）の Florian Tramèr 教授は、抽出された複製画像の多くが著作権で保護されていると指摘する。さらに、医療用の合成 X 線写真のように機密性の高いデータを扱う場合、患者の実データがそのまま流出する致命的なプライバシー侵害に繋がりかねない。

なぜ重要か

この研究は、生成 AI 企業が著作権侵害訴訟で掲げてきた「AI は学習元の画像をコピーしていない」という最大の防壁を根底から揺るがすものだ。

0.03% という数字は一見小さく見えるが、商業利用するクリエイターにとっては重大なリスクになる。商用ライセンスを得て出力した画像であっても、偶然この複製パターンを踏んでしまえば、知らぬ間に他者の著作権を侵害してしまう危険がある。

私たちは、この問題が今後のモデル開発のあり方を根本から変えるとみている。データの重複排除やフィルタリングだけでは記憶を防ぎきれない以上、企業は出力時にリアルタイムで類似画像を検知して遮断する仕組みを導入せざるを得なくなる。

モデルの規模拡大に伴って訴訟やプライバシー侵害のリスクが急激に高まる中、ネット上の画像を無差別に学習させる時代は終わりを告げようとしている。