Metaが「AI脱衣アプリ」開発元を提訴、新技術で取り締まり強化

Metaが、悪質なAI脱衣アプリの根絶に向けて法的手段と新技術を投入しました。

同社は6月12日、非同意の性的画像を生成するCrushAIアプリを手がけるJoy Timeline HK Limitedを相手取り、香港の裁判所に提訴したと発表しました。この運営会社は審査ルール違反で広告を繰り返し削除された後も、回避策を使ってMetaのプラットフォーム上で広告出稿を続けていました。

Metaは約1年前から脱衣アプリのプロモーションを明確に禁止し、FacebookやInstagramで「nudify」「undress」「delete clothing」といった検索語を制限してきました。しかし、金銭目的の広告主とのいたちごっこが続いていました。

露骨な画像がなくても検知する新システム

悪質な広告主の手口は巧妙化しています。

肌の露出を検知するアルゴリズムをすり抜けるため、広告クリエイティブ自体には無害な画像を用い、リンク先のURLがブロックされるとすぐに別ドメインへ移行するといった手口が横行していました。

これに対抗するため、Metaは広告素材自体に裸体が含まれていなくてもプロモーションの意図を見つけ出す専用技術を開発しました。類似のコピー広告を迅速に検出・削除するマッチング技術も導入しています。

さらに外部専門家と連携して検知対象となる隠語や特定の絵文字を拡大したほか、組織的な不正行為を取り締まる調査チームを動員し、今年に入ってから4つの不正広告配信ネットワークを摘発して解体しました。

対策は自社サービス内にとどまりません。業界団体Tech Coalitionの取り組みであるLanternを通じ、3月末からこれまでに3800件を超える違反URLを他のIT企業に共有しました。法制面でも、米国の超党派法案「TAKE IT DOWN Act」や、保護者が子どものアプリ導入を管理できる法制化への支持を表明しています。

なぜ重要か

生成AIを悪用した性的ディープフェイクは、個人の尊厳を深刻に脅かすネット上の暴力です。一般のユーザーがSNSに載せた日常の写真が勝手に悪用される被害が後を絶たず、その温床となっているのが広告を通じたアプリの集客でした。

今回のMetaの対応は、表面的な対症療法から一歩踏み込んだものと評価できます。画像自体の露出度を測る従来の検知では限界がある中、背後にある不審なアカウント群のネットワークを特定して叩くアプローチは理にかなっています。香港の運営元を直接提訴したことも、違反を繰り返す業者への強い警告になります。

他社へ3800件以上のURLを共有した動きも実効性が高いポイントです。広告主はプラットフォーム間を渡り歩いて網をくぐろうとするため、業界横断のデータ共有が進まなければ抜け穴が残るからです。

ただし、これだけで問題が根本的に解決するわけではありません。アプリストア側での配信審査や、手元で動くオープンソースモデルの悪用防止など、エコシステム全体での規制が整わなければ、看板を掛け替えただけの類似アプリがまた別の場所で現れるリスクは依然として残っています。