息子の声をAIで複製、米テキサスの夫婦が約5000ドルの詐欺被害に

自宅の固定電話に出て、パニックになった息子の泣き声で「重大な事故を起こして逮捕された」と告げられたら、大半の親は冷静ではいられなくなります。

米テキサス州ヒューストンで、AIによって息子そっくりに複製された音声を使った特殊詐欺が発生し、夫婦が5000ドルをだまし取られました。

事故と逮捕を騙る巧妙なシナリオ

先週水曜日、ヒューストン在住のフレッドさんとキャシーさん夫妻の自宅で電話が鳴りました。受話器を取ると、聞こえてきたのは動揺した息子の声でした。

電話口の主は、深刻な交通事故を起こして妊娠6カ月の女性をはねてしまい、相手はお腹の子を失ったと語りました。自身も鼻を骨折し、飲酒運転の容疑で郡の拘置所に入れられていると訴えたといいます。

キャシーさんは地元テレビ局KHOUに対し、間違いなく息子と会話していると信じ切っていたと振り返っています。

犯人側は息子の保釈金として1万5000ドルを要求し、最終的に5000ドルの現金で合意しました。さらに釈放を急ぐという名目で、直接自宅まで現金を受け取りに現れました。

がん闘病中だったキャシーさんは現金を工面するため、予定されていた化学療法の治療を延期することになりました。しかし現金を渡した後に確認したところ、本物の息子はずっと職場で普通に勤務していました。

SNSの短い動画から音声をクローン

専門家によると、音声を複製するために長時間の録音データを用意する必要はすでにありません。

法医学調査会社 Lone Star Forensics のエリック・デブリン氏は、手掛かりはFacebookやInstagramに公開されている短い動画など、ネット上に上がっているわずかな日常の音声で十分だと指摘しています。

AIによるディープフェイク技術は近年急速に悪用が進んでいます。2月には人気ポッドキャスターのジョー・ローガン氏の偽動画がTikTokで拡散され、男性用サプリメントの宣伝に無断使用されて話題になりました。

商品広告の偽装も問題ですが、家族の緊急事態を装う標的型詐欺に悪用された場合、人間の心理的な隙を突く威力は比較になりません。

なぜ重要か

私たちは、電話口で「声を聞いて本人だと確認する」という常識が完全に崩壊したと考えています。かつては肉声こそが最も確実な身元確認手段でしたが、AIはその信頼を一瞬で無力化しました。

今すぐ取れる対策として、家族間だけで通じる秘密の合言葉を決めておくことや、どれほど急かされても一度電話を切り、本人の登録済み番号へかけ直すルールを徹底することが求められます。また、SNSで家族の声が入った動画を全体公開にしない自衛も必要です。

業界にとっては、音声クローン技術に対する安全対策の遅れが浮き彫りになりました。透かし機能や本人の同意確認がないまま手軽な音声生成モデルが普及した結果、防御側の負担が極端に重くなっています。

通信キャリアやセキュリティ企業によるリアルタイムの合成音声検知システムの導入が急務であり、これが遅れれば同様の被害は世界中で急増することになりそうです。