メリーランド大がAI透かしを検証：不可視型を全滅突破、誤検知偽造も可能に

AIが生成した偽画像やディープフェイク対策として、米大手テック企業がこぞって導入を進めてきた電子透かし技術に、学術界から冷や水が浴びせられました。

米メリーランド大学のコンピュータサイエンス学部教授であるSoheil Feizi氏らの研究チームは、現行のAI画像向け電子透かし技術をテストし、そのすべてを突破することに成功したとするプレプリント論文を公開しました。人間の目に見えない低摂動型の透かしについて、Feizi氏は希望がないとまで言い切っています。

透かしの除去だけでなく、人間への「冤罪」も可能

研究チームは、悪意ある攻撃者が透かしを洗い流すように除去できる手法を実証しました。

さらに深刻なのは、AI画像の透かしを人間が撮影・作成した本物の画像に移植し、AI生成物だと誤判定させる偽陽性を意図的に引き起こせる点です。つまり、偽物を本物に見せかけるだけでなく、本物を偽物だと仕立て上げることが技術的に可能になってしまいます。

同様の警告は以前からありました。カリフォルニア大学サンタバーバラ校やカーネギーメロン大学の研究チームも、不可視の透かしはすべて脆弱であると報告しています。今回の研究はさらに踏み込み、比較的頑丈とされてきた目に見える高摂動型の透かしであっても改ざん可能であることを示しました。

産業界で激化するいたちごっこ

2024年の米大統領選を控え、情報工作への懸念が高まる中、OpenAIやAlphabet、Meta、Amazonなどは今夏、偽情報対策として透かし技術の開発を誓約しました。Google傘下のDeepMindも8月下旬に透かし埋め込みツールSynthIDのベータ版を公開しましたが、同社自身もこのツールが完全無欠ではないと注記していました。

一方で、現場の専門家の見方は冷ややかです。AI検知を手がけるReality DefenderのBen Colman CEOは、現実の環境では透かしは容易に偽造や削除、無視ができてしまうと指摘します。検知回避ツールを提供するUndetectableのBars Juhasz共同創業者に至っては、透かしを無力化するための産業がすでに成立していると公言しています。

もっとも、カリフォルニア大学バークレー校のHany Farid教授やメリーランド大学のTom Goldstein教授らは、透かしを完全に放棄すべきではないと主張します。高度な攻撃は防げなくても、低レベルな偽造をふるい落とす被害軽減策としては機能するため、他の技術と組み合わせた多層防御の一部として使うべきだという立場です。

なぜ重要か

私たちは、大手テック企業が掲げる透かし技術への過度な依存は危険だと考えます。規制当局へのアピールとして透かしを導入するのは企業として賢い立ち回りですが、容易に突破できる防壁に頼り切ることは、ユーザーに偽りの安心感を与えるリスクをはらんでいます。

一般ユーザーやプラットフォーム運営者にとって、透かしの有無だけで真偽を判定するのは今や危険な賭けです。悪意ある第三者が本物の報道写真にAIの透かしを付与して信憑性を落とすといった情報工作が現実味を帯びてきたためです。

業界全体で見れば、不可視の電子透かしという単一の技術で真偽を見極める時代は終わりつつあります。今後は生成ログの暗号署名やサプライチェーン全体の検証など、構造的なコンテンツ来歴証明へシフトしていかなければ、巧妙化する情報戦に対抗することは難しいと見られます。