英消費者金融専門家が警告、Facebookで自身を騙るディープフェイク詐欺広告が拡散

SNSで見かける詐欺広告といえば、これまでは有名人の写真を勝手に切り抜き、怪しい投資サイトへ誘導する手口が主流でした。しかし現在、その手口は生成AIを駆使した「本人が話しているかのような偽動画」へと急速に進化しています。

英国で高い知名度と信頼を誇る消費者金融アドバイザーのマーティン・ルイス氏は7月6日、Facebook上で自身のディープフェイク動画を使った投資詐欺広告が出回っていると警告を発しました。動画内のルイス氏は、イーロン・マスク氏が支援しているとされる投資案件を熱心に勧めています。

もちろん動画はAIで作られた偽物であり、マスク氏もルイス氏も一切関与していません。ルイス氏は以前から第三者の金融商品を広告で推奨しない方針を徹底していますが、その知名度ゆえに詐欺グループの標的にされ続けています。

過去の和解金も通用しない詐欺の進化

ルイス氏が怒りを露わにする背景には、Metaとの過去の因縁があります。

同氏は2018年、自身の肖像を悪用した詐欺広告を放置したとしてFacebookを相手取り名誉毀損訴訟を起こしました。2019年に両者は和解し、Facebook側は英国ユーザー向けに通報ボタンを新設したほか、詐欺対策支援のために300万ポンドの資金を拠出することを約束しました。

しかし、現実の被害額と比べればその対策は焼け石に水です。昨年、英国の消費者や企業が詐欺被害によって失った金額は過去最悪の13億ポンドに達しました。一方、Metaの2022年通期売上高は1166億1000万ドルに上ります。

ルイス氏は英ITVの朝の情報番組に出演し、「これは私自身が登場するディープフェイク詐欺広告として確認した初めての例だ。まだ技術の初期段階に過ぎず、これからさらに巧妙になる」と強い危機感を示しました。

取材に対しMetaの広報担当者は調査を進めていると回答し、当該の動画広告や類似のコピー広告を削除したと説明しました。しかし、なぜこのような著名人の精巧な偽動画が事前の審査を通過し、一般ユーザーに配信されてしまったのかについて明確な回答はありませんでした。

プラットフォームのターゲティングが詐欺を後押しする構図

ルイス氏はMetaだけでなく、法制化を先送りし続ける英政府の対応の遅さも批判しています。オンライン安全法案の対象に詐欺広告を含める動きはあるものの、議会での審議が長引いており、プラットフォームの自主規制に頼る状態が続いています。

ここで深刻なのは、Metaの広告プラットフォームそのものが詐欺の拡散装置として機能してしまっている点です。Metaはユーザーの行動追跡データを基に、極めて精度の高いターゲティング広告ツールを提供しています。

詐欺師が生成AIで巧妙なフェイク動画を作成し、この広告ツールに広告費を投じれば、アルゴリズムが「騙されやすい層」を自動で見つけ出してフィードに届けます。

ルイス氏が指摘するように、利用者が詐欺広告を目にするたび、大手テック企業には広告料が支払われています。騙された人々が生活を破壊される一方で、配信元企業は収益を得るという歪んだ構図が存在しています。

なぜ重要か

一般ユーザーにとって、本物そっくりの音声と映像で語りかけてくるAIディープフェイクの登場は、「動画だから信用できる」というこれまでの常識が完全に通用しなくなったことを意味します。リテラシーの高い人であっても、一目で詐欺と見破ることは極めて難しくなっています。

私たちは、この問題が大手テック企業の広告ビジネスが抱える最大の構造的欠陥を浮き彫りにしたと考えています。プラットフォーム各社は高度なAIを使ってユーザーに広告を届ける能力を誇る一方で、出稿された動画が違法なディープフェイクかどうかを判定する事前審査体制には十分な投資を行っていません。

事後的な削除対応や数百万ポンドの和解金だけでは、巨大テック企業にとって実質的な痛手にはなりません。配信プラットフォーム側に詐欺被害に対する直接的な法的・金銭的責任を負わせない限り、進化し続けるAIは詐欺グループにとって最高の集金ツールであり続けるはずです。