Meta、FacebookやInstagramでAI生成画像を識別・ラベル表示へ

SNSのタイムラインで本物そっくりの画像を見かけたとき、それが写真なのかAIの生成物なのか判断がつかない場面が増えています。

Metaは今後数か月をかけて、Facebook、Instagram、Threadsに投稿されるAI生成画像に対し、自動でラベルを表示する取り組みを開始すると発表しました。これらのアプリがサポートする全言語で順次展開されます。

同社はこれまで、自社のMeta AIツールで作られたリアルな画像にのみ識別表示をつけていました。今回の動きは、それを業界全体に広げるものです。

他社製AIの不可視マーカーを検知する

他社製ツールで作られた画像を見分けるため、Metaは業界共通の技術規格を採用します。具体的には、C2PAやIPTC規格に準拠したメタデータや目に見えない電子透かしを大規模に読み取るシステムを構築しています。

Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockなどの企業が自社ツールに識別信号を組み込み次第、Metaの各アプリ上でそれらを検知してラベルが付与される仕組みです。

一方で、音声や動画については業界全体でまだ同様の識別信号が普及していません。そのため自動検出は難しく、Metaはユーザーによる自己申告制を導入します。

本物と見紛うようなAI生成の動画や音声を投稿する場合、ユーザーは開示ツールを使って明示することが義務付けられます。申告を怠った場合にはアカウントへのペナルティが科される可能性があり、重大な公的課題で悪質な誤認を招く恐れがある投稿には、より目立つ警告ラベルが付けられます。

抜け穴を塞ぐいたちごっこ

ファイルのメタデータは、スクリーンショットを撮ったり再エンコードしたりするだけで簡単に消去できてしまいます。Metaもこの限界を認めています。

対策として同社は、メタデータが存在しなくてもAI特有のパターンを直接見分ける検出分類器の開発を進めています。さらに研究組織のFAIRでは、生成プロセスそのものに透かしを埋め込み、後から無効化できないようにする技術「Stable Signature」の開発を進めています。

世界各国で重要な選挙が控える中、Metaはコミュニティ規定を学習させた大規模言語モデルを導入し、規定違反のないコンテンツを自動処理することで、人手による監視をリスクの高い投稿に集中させる取り組みも始めています。

なぜ重要か

一般ユーザーにとっては、タイムラインに流れてくる偽情報やフェイク画像を見分けるための安心材料になります。一方で、AIツールを使って音声や動画を制作しているクリエイターにとっては、投稿のたびに申告が必須となり、違反すればペナルティを受ける運用リスクを抱えることになります。

業界全体から見れば、世界最大級のプラットフォームであるMetaがC2PAやIPTCの検知を本番運用することで、画像生成ツールを提供する競合各社に対し、規格対応を強く義務付ける圧力になります。

この取り組みは共通規格をテコにしている点で現実的かつスマートですが、現時点ではかなり脆弱です。悪意を持った人物がメタデータを削除するのは容易で、音声や動画の申告制も利用者の良心に依存しています。真の抑止力になるかどうかは、画像生成の深層に透かしを埋め込む技術がどれだけ普及するかにかかっていると見ています。