Google DeepMind、詐欺対策の端末内蔵型Gemmaを発表　シンガポール政府と連携

最近の詐欺の手口は、怪しいリンクを送りつけるだけにとどまりません。何日もかけて親密なメッセージのやり取りを重ね、巧みに心理を誘導して送金させる「ソーシャルエンジニアリング型」が主流になりつつあります。シンガポールでは、2019年以降に報告された詐欺被害総額40億シンガポールドルのうち、実に最大80%がこうした会話型詐欺によるものです。

これに対しGoogle DeepMindとシンガポール政府テクノロジー庁（GovTech Singapore）は、10月14日の「Singapore International Cyber Week（SICW 2026）」にて、端末ローカルで動作する詐欺検知AIモデルを発表しました。Googleの軽量モデル「Gemma」を微調整したもので、ユーザーのプライバシーを完全に守りながらリアルタイムに詐欺を警告します。

バッテリー消費を抑える2段階の検知パイプライン

従来の脅威検知はクラウドサーバー上でメッセージをスキャンするのが一般的でしたが、プライバシー保護やエンドツーエンドの暗号化メッセージングアプリではその手法は使えません。

そこで今回の仕組みでは、すべての処理をユーザーのスマートフォン上（オンデバイス）で完結させています。ただし、スマホ上で大規模な言語モデルを常時動かせばバッテリーが一瞬で消耗してしまうため、開発チームは2段階のパイプラインを採用しました。

第1段階では、極めて電力消費が少ない軽量分類器が受信メッセージを監視し、潜在的な怪しい兆候をふるいにかけます。

第2段階として、怪しい兆候が確認された場合にのみ、微調整されたGemmaモデルが起動します。会話の文脈や複数回にわたるやり取りをスナップショットとして解析し、相手に悪意ある誘導の意図があるかどうかを最終判定します。

詐欺の疑いがあると判定されると、端末上にリアルタイムで警告が表示され、個人情報の入力や送金を思いとどまるよう促します。データはすべて端末内で処理され、ユーザーの同意のもとでのみ動作するため、シンガポール政府もGoogleもチャット内容を閲覧することはできません。

地元の手口に特化、主権サンドボックスで訓練

一般的なAIモデルは、地域特有の言い回しや詐欺のトレンドを見分けるのが苦手です。

今回の取り組みでは、シンガポール現地の公的機関や銀行、著名人を装った手口や、東南アジア地域で流行している詐欺シナリオを集中的にGemmaへファインチューニングしました。これにより、日常的な雑談と悪意あるマニピュレーションを正確に見分けることができます。

開発時のガバナンスも徹底されています。学習作業はGovTechが管理するGoogle Cloud環境内の「ソブリン・サンドボックス」で隔離して実施され、一般市民の個人データは一切使用されていません。過去の通報データや脅威インテリジェンス、合成会話データのみを用いてストレステストが行われました。

なぜ重要か

私たちは、この取り組みが「暗号化によるプライバシー」と「ユーザー保護」という長年のトレードオフを乗り越える極めてスマートな解決策だと評価しています。チャット内容をクラウドに送らず、ローカルの軽量モデルに文脈を読ませるアプローチは、今後のメッセージングアプリの安全対策の標準モデルになり得ます。

ユーザーにとっての価値は明快です。投資詐欺やなりすましのように、時間をかけて信頼関係を築いてくる巧妙な手口に対し、冷静な第三者の視点で「待った」をかけてくれる点です。特に高齢者など、詐欺だと気づきにくい層にとって強力な防壁になります。

一方で課題もあります。誤検知が頻発すれば、ユーザーは煩わしさから警告機能を切ってしまうでしょう。また、端側モデルを相手にリバースエンジニアリングを仕掛け、警告トリガーを踏まない言い回しを逆算する詐欺グループが現れる可能性も否定できません。いかに端末のバッテリーを犠牲にせず、最新の詐欺トレンドに合わせてモデルを更新し続けられるかが今後の普及の鍵を握りそうです。