Google、メッセージアプリに詐欺検出AIを追加：端末内でリアルタイム検知

最近のメッセージ詐欺は、いきなり怪しいURLを送りつけてくる手口ばかりではありません。最初は間違いメールを装って親しげに話しかけ、数日かけて油断させたところで本題に入る劇場型の手口が増えています。

こうした巧妙な手口に対抗するため、GoogleはGoogleメッセージにAIを活用した詐欺検出機能を導入しました。やり取りの途中で怪しい兆候がないかをリアルタイムで見張ってくれます。

雑談から始まる詐欺を端末内で見破る

従来のスパム対策は、メッセージが届いた瞬間に送信元や単語をチェックして弾くものが中心でした。

Googleメッセージのシニアプロダクトマネージャーを務めるアルベルト・パストール・ニエト氏によれば、こうした従来型の仕組みは、最初は無害を装いながら途中で危険な誘導を仕掛けてくる最新のソーシャルエンジニアリングには太刀打ちできませんでした。

今回のAI詐欺検出は、SMS、MMS、RCSのメッセージをリアルタイムで監視し、不審なパターンを検知すると警告を表示します。ユーザーはその場ですぐに警告を消すか、相手をブロックして通報するかを選べます。

プライバシー面にも配慮されています。メッセージの解析処理はすべて端末内で行われ、クラウドに送信されることはありません。連絡先に登録されていない相手との会話のみが対象で、不要なら設定からオフにすることも可能です。まずは米国、英国、カナダで英語向けに提供が始まります。

Pixel 9向けの独自アップデートも多数

同時にAndroid全体とPixel向けの新機能も公開されました。Androidの端末を探すアプリでは、信頼できる連絡先とリアルタイムの位置情報を共有できるようになり、定期的なリマインダーも表示されます。

Pixel 9向けには、BluetoothとWi-Fiを使ってGoProや別のPixelを接続し、YouTubeやTikTokなどでマルチアングル配信ができる機能が追加されました。Pixel Studioでは人物の画像やステッカーを生成できるようになりましたが、悪用を防ぐため写実的ではなくイラスト調のスタイルに制限されています。

さらにPixel 9ではVerizonとT-Mobileの衛星通信メッセージに対応したほか、レコーダーアプリで過去の端末から音声データを取り込んで自動文字起こしができるようになります。

なぜ重要か

私たちが注目したいのは、詐欺対策の主戦場がメッセージの受信時から会話の進行中へとシフトした点です。いわゆるロマンス詐欺や投資詐欺は、序盤のやり取りがごく自然なため、キーワードによる事前フィルターを簡単にすり抜けてしまいます。

この継続的な文脈チェックを、クラウドに頼らず端末内のオンデバイスAIだけで完結させたのは非常に現実的で賢い判断です。プライバシーの懸念を払拭しつつ、ITリテラシーがあまり高くない層にも自動で安全網を広げられます。

懸念されるのは誤検知の頻度です。新しい知り合いとの不器用なやり取りや、お金が絡む日常的な相談まで頻繁に警告を出してしまうと、ユーザーが警告に慣れて無視する恐れがあります。

それでも、AppleがiOSでスパムの分類整理にとどまっているのに対し、Googleが一歩踏み込んで会話の文脈にリアルタイムで介入し始めた意味は大きく、今後のモバイルセキュリティの基準を引き上げる一手になりそうです。