구글 딥마인드, 싱가포르 정부와 온디바이스 Gemma 기반 사기 감지 모델 개발

요즘 사기는 단순히 악성 링크가 담긴 문자 메시지를 보내는 수준을 넘어섰습니다. 며칠 동안 일상 대화를 나누며 신뢰를 쌓은 뒤 돈을 가로채는 사회공학적 기법이 대세가 됐기 때문입니다. 싱가포르에서는 2019년 이후 발생한 40억 싱가포르 달러 규모의 사기 피해 중 최대 80%가 이런 대화형 사기에서 비롯됐습니다.

이에 대응해 Google DeepMind와 싱가포르 정부기술청(GovTech Singapore)은 10월 14일, '싱가포르 국제 사이버 위크(SICW 2026)'에서 기기 내에서 직접 구동되는 온디바이스 Gemma 기반 사기 탐지 모델을 공개했습니다. 사용자의 대화 프라이버시를 전혀 침해하지 않으면서 실시간으로 사기를 잡아내는 기술입니다.

배터리 소모를 잡은 2단계 온디바이스 탐지 구조

기존의 위협 탐지는 클라우드 서버에서 메시지를 분석하는 방식에 의존했습니다. 하지만 종단간 암호화(E2EE)가 적용된 메신저에서는 클라우드 방식이 불가능하며, 사적인 대화 내용을 외부 서버로 보내는 것 자체가 심각한 사생활 침해가 됩니다.

DeepMind는 모델을 스마트폰 내부에서 완전히 로컬로 구동시키는 방식으로 이 문제를 풀었습니다. 다만 고성능 모델을 모바일에서 계속 돌리면 배터리가 금방 닳기 때문에, 2단계 파이프라인을 설계해 효율을 극대화했습니다.

1단계에서는 최소한의 전력만 쓰는 초경량 분류기가 수신 메시지를 훑어보며 의심스러운 정황이 있는지 1차로 걸러냅니다.

2단계는 1단계에서 이상 징후가 포착됐을 때만 작동합니다. 미세조정된 Gemma 모델이 대화의 전체적인 맥락과 흐름을 심층 분석해 실제 조작 의도가 있는지 최종 판별하고 오경보를 걸러냅니다.

사기로 판단되면 기기 화면에 즉시 경고가 떠서 송금이나 개인정보 입력을 멈추도록 안내합니다. 모든 과정은 사용자의 동의하에 기기 내에서만 처리되며, 싱가포르 정부나 Google 그 누구도 대화 내용에 접근할 수 없습니다.

현지 맞춤형 학습과 격리된 샌드박스 개발

일반적인 AI 모델은 특정 지역의 고유한 사기 수법이나 은어를 잘 잡아내지 못합니다.

이번 프로젝트에서는 싱가포르 현지 공공기관, 은행, 유명인을 사칭하는 수법과 동남아 지역의 최신 사기 패턴을 집중적으로 Gemma에 미세조정했습니다. 덕분에 단순한 일상 대화와 사기성 유도 대화를 정확하게 구분해냅니다.

데이터 거버넌스도 철저하게 관리됐습니다. 미세조정 작업은 GovTech가 관리하는 독립된 GCP 샌드박스 환경에서만 이뤄졌으며, 일반 시민의 개인정보는 일체 배제한 채 익명화된 사기 제보 데이터와 위협 인텔리전스, 합성 데이터만을 활용해 테스트를 거쳤습니다.

왜 중요한가

우리는 이 협업이 '종단간 암호화'와 '이용자 보호'라는 양립하기 힘든 두 가치를 온디바이스 AI로 영리하게 풀어낸 모범 사례라고 봅니다. 그동안 메신저 보안은 프라이버시를 위해 암호화를 유지하느라 사기 피해를 방치하거나, 사기를 잡기 위해 대화 검열을 감수해야 하는 진퇴양난에 빠져 있었습니다. 로컬 구동 소형 언어 모델은 이 딜레마를 깨는 훌륭한 탈출구입니다.

이용자 입장에서는 카카오톡이나 왓츠앱 같은 메신저에서 '로맨스 스캠'이나 투자 사기처럼 장기적으로 접근하는 교묘한 수법을 미리 차단할 수 있다는 점이 가장 큰 이점입니다. 내 사생활이 서버로 유출될 걱정 없이, 폰 자체에 사기 전담 조언자를 두는 셈입니다.

다만 오탐(False Positive) 문제는 넘어야 할 산입니다. 지인 간의 돈거래나 일상적인 부탁을 사기로 오인해 자꾸 경고창을 띄운다면 이용자들은 결국 기능을 꺼버릴 가능성이 높습니다. 또한 사기 조직이 로컬에 배포된 모델을 분석해 경고를 피해 가는 새로운 화법을 개발할 위험도 있어, 가볍고 빠른 지속적 업데이트 체계를 갖추는 것이 관건이 될 것으로 보입니다.