YouTube、AI肖像検出ツールの対象を公職者や記者に拡大

自分の顔や声を勝手に使ったAIディープフェイク動画が拡散された場合、これまでは手動で削除申請を出し続けるしかありませんでした。

YouTubeがこの問題に対して自動化の網を広げようとしています。米YouTubeは3月10日、AI生成によるディープフェイクを検出する「肖像検出ツール」のパイロット版提供先を、政府高官、政治家候補者、ジャーナリストに拡大すると発表しました。同機能は昨年、YouTubeパートナープログラムに参加する約400万人のクリエイター向けに先行公開されていたものです。

顔版のContent IDとして機能

このシステムは、著作権侵害を自動検出する「Content ID」の肖像版と言えます。プラットフォーム上にアップロードされた動画から、AIによって模倣された顔を自動で照合・検出します。

登録者が検出通知を受け取ると、該当動画を確認し、YouTubeのプライバシーガイドラインに違反していると判断すれば削除を申請できます。

悪用を防ぐため、参加には本人確認用の自撮り動画と公的身分証明書の提出が求められます。YouTubeによると、収集された個人データは本人認証と安全機能の維持にのみ使用され、Googleの生成AIモデルの学習に使われることはありません。

ただし、検出された動画が必ず削除されるわけではありません。同社の政府渉外・公共政策担当バイスプレジデントであるレスリー・ミラー氏は、パロディや風刺、正当な政治批判などの表現の自由は保護されると説明しています。

クリエイター製品担当バイスプレジデントのアムジャド・ハニフ氏によれば、先行導入されたクリエイターの間では実際の削除申請率は非常に低いとのことです。多くのクリエイターにとって二次創作は無害であり、むしろ認知拡大につながるためです。しかし、政治家や記者の場合は偽情報による被害リスクが段違いに高くなります。

YouTubeは将来的に、公開前のアップロード遮断や、Content IDのように他人が作ったディープフェイク動画から収益を得る仕組み、さらには合成音声や人気キャラクターへの対応も視野に入れています。ただし、全一般ユーザーへの機能開放は計画されていないため、一般人は引き続き通常の通報窓口を利用する必要があります。

なぜ重要か

YouTubeが著作権管理で培った巨大なインフラを、そのまま個人の肖像権管理に応用した点は非常にスマートな一手と言えます。

政治家や報道関係者にとっては、拡散前に異変に気づくための強力なレーダーになります。一方で、一般ユーザーが置き去りにされている現状は、安全格差としての課題を残します。

業界全体にとって興味深いのは、ディープフェイクを単に排除するのではなく、「収益化」の選択肢を検討している点です。肖像をコンテンツ資産として扱い、ライセンス的に管理する道筋が立てば、AI生成時代の新たな権利ビジネスが立ち上がる可能性があります。

もっとも、最大の懸念は「何が風刺で、何が悪質な偽情報か」の判定をプラットフォーム自身が握り続ける点にあります。高度な顔照合アルゴリズムをもってしても、文脈に潜む政治的意図までは完全に見極められず、選挙期間中の対応などを巡って常に批判の矢面に立たされるリスクは避けられません。