Instagram、AI生成コンテンツを示す識別ラベルをテスト中

今年初め、白いダウンジャケットをスタイリッシュに着こなすローマ教皇の画像がソーシャルメディアで世界的な話題となりました。幸い実害のないいたずらで済みましたが、誰もが手軽に本物と見分けがつかない画像を作れる時代の危うさを強く印象づけました。

そして今、写真共有プラットフォーム大手のInstagramが対策に乗り出そうとしています。

未発表機能をリバースエンジニアリングで数多く発見してきたアプリ研究者のAlessandro Paluzzi氏が、Instagramアプリ内で開発中の新機能画面を発見し、スクリーンショットを公開しました。コンテンツがAIによって作成または編集された場合に、それを明示するラベルを表示する仕組みです。

スクリーンショット流出：「Metaが判定」の文言も

公開されたスクリーンショットによると、画面には「クリエイターまたはMetaが、このコンテンツがAIで作成または編集されたと述べています」と記されています。具体例として「Meta AIによって生成された画像」と明記され、生成AIとは何か、AIを使った投稿をどう見分けるかについての簡単な説明も添えられていました。

この動きの背景には政府との約束があります。Metaは先日、GoogleやMicrosoft、OpenAIなどとともにホワイトハウスを訪れ、責任あるAI開発に関する誓約を交わしました。その中には、AI生成コンテンツをユーザーに知らせるための電子透かしや識別システムの開発が含まれています。

関心が集まっているのは、このラベル付けがどれほど自動化されるかという点です。

悪意ある偽情報を防ぐ上で、投稿者本人の自己申告だけに頼るのは無理があります。しかし、文面に「Metaが述べている」という表現が含まれていることから、同社がユーザーの善意に頼るだけでなく、システム側で能動的に判定してラベルを付与するケースを想定していることがうかがえます。なお、Engadgetの取材に対してMetaの広報担当者はコメントを控え、The Vergeの問い合わせにも即答はありませんでした。

本格機能リリースの前に敷く予防線

Metaは大規模言語モデル「LLaMA 2」をオープンソース化したばかりですが、Instagramなどの主力アプリでは一般消費者向けの生成AI機能をまだ広く展開していません。

しかし、準備は着々と進んでいます。

Axiosの報道によると、マーク・ザッカーバーグCEOは6月の全社会議で、テキストプロンプトを使ってInstagramストーリーズの写真を加工できる機能を開発中だと明かしました。またPaluzzi氏は、画像の特定部分を追加・置換できる「AIブラシ」機能の存在も突き止めています。さらに英Financial Times紙は、早ければ来月にも個性を持ったAIチャットボットがMeta製品に組み込まれる可能性があると報じました。

プラットフォーム各社も真偽確認の仕組み作りに動いており、Googleは今夏、画像が最初に検索エンジンにインデックスされた時期や場所を表示する「About this image」ツールの提供を予定しています。

なぜ重要か

Instagramによるこのラベル付け機能は、今後急増するであろう生成AIコンテンツに対する極めて重要な防壁になると私たちは考えています。

一般ユーザーにとって、投稿ごとに粗探しをして本物かどうか悩む手間が減るのは大きなメリットです。一方で、クリエイター側には新たな悩みが生じる可能性があります。少し色調を整えたりノイズを除去した程度の編集でも「AI製」のレッテルを貼られてしまえば、作品の正当な評価を損なう恐れがあり、どこからが対象になるのかの線引きが問われます。

業界の視点で見れば、Metaが自社の消費者向け生成AI編集機能を一般開放する前に、表示ルールと枠組みを先んじて整備した点は賢明な判断と言えます。ホワイトハウスへの誓約を果たしつつ、安全対策を講じる姿勢をアピールできるからです。

ただし、最大の難所はプラットフォームによる自律検知の精度です。誤検知によって手作業の作品にAIラベルがついてしまったり、逆に巧妙なディープフェイクを見逃したりすれば、プラットフォームの信頼性は大きく揺らぎます。ラベルを用意すること以上に、それを公平かつ正確に運用できるかどうかが今後の正念場になるはずです。