취리히 연방공대, AI 모델 YOLO로 구글 reCAPTCHAv2 100% 돌파

웹사이트에 접속할 때 흐릿한 타일 이미지 속에서 신호등이나 횡단보도를 찾느라 눈을 찌푸려 본 경험은 누구나 있을 겁니다. 인간임을 입증하기 위해 치러야 했던 이 성가신 관문을 이제 AI가 100% 확률로 통과하기 시작했습니다.

스위스 취리히 연방공과대학교(ETH Zurich)의 안드레아스 플레스너(Andreas Plesner) 연구팀은 널리 쓰이는 컴퓨터 비전 모델 욜로(YOLO)를 미세조정해 구글의 이미지 기반 인증 도구인 reCAPTCHAv2를 공략했습니다. 그 결과 테스트에서 100% 성공률을 기록했습니다.

13가지 도로 사물에 갇힌 캡차

AI가 만점을 받을 수 있었던 배경에는 캡차 시스템 자체의 단조로움이 있었습니다. 플레스너 연구원은 reCAPTCHAv2가 요구하는 사물의 범주가 도로 환경이라는 매우 제한적인 맥락에 갇혀 있었다고 설명합니다.

문제로 출제되는 대상은 자동차, 버스, 자전거, 신호등, 횡단보도 등 고작 13종 안팎에 불과했습니다. 연구팀은 약 1만 4000장의 라벨링된 도로 이미지를 모델에 학습시켜 사물 인식 능력을 극대화했습니다.

구글의 봇 탐지 알고리즘은 단순히 정답을 맞히는 것 외에도 마우스 움직임, 브라우저 쿠키, 방문 기록 같은 디바이스 핑거프린팅 요소를 함께 분석합니다.

연구진은 이러한 사용자 환경 조건까지 실험에 반영했습니다. 100% 통과라는 기록은 모든 개별 이미지를 완벽히 맞혔다는 뜻이 아니라, 사람처럼 애매한 이미지를 건너뛰고 새 이미지를 요청하면서 최종 인증을 따냈다는 의미입니다.

이에 대해 구글 클라우드 대변인은 이미지 인식 기술의 발전은 새로운 문제가 아니며, 2018년에 이미 시각적 문제를 보여주지 않는 reCAPTCHA v3를 출시했다고 밝혔습니다. 현재 전 세계 700만 개 사이트 중 대다수는 이용자가 눈치채지 못하는 투명한 보호 기술을 적용 중이라는 설명입니다.

하지만 영국 드몽포트 대학교의 에어케 보이텐(Eerke Boiten) 교수는 AI의 시각 능력이 인간 수준에 도달한 만큼, 인증 시스템이 기기 정보 추적에 더 의존하게 될 것이라고 짚었습니다. 행동만으로 자신이 사람임을 입증하는 일이 점점 더 불가능해질 수 있다는 지적입니다.

왜 중요한가

일반 이용자 입장에서는 화면 속 소화전을 억지로 찾아내야 하던 피로한 경험이 마침내 종말을 고하고 있다는 신호입니다. 오픈소스 비전 모델로도 손쉽게 뚫리는 이미지 퍼즐은 더 이상 자동화 프로그램을 막는 방패가 되지 못합니다.

우리가 보기에 진짜 문제는 그 대안에 있습니다. 눈에 보이는 퍼즐이 무력화되면서 보안 시스템은 백그라운드에서 기기 고유 식별값이나 브라우저 활동 내역 같은 디바이스 핑거프린팅 데이터를 더욱 깊숙이 들여다볼 수밖에 없습니다. 봇을 걸러내기 위해 일반 사용자가 프라이버시를 더 많이 희생해야 하는 역설이 생깁니다.

웹사이트를 관리하는 개발자나 기업에게도 명확한 경고입니다. 기존 이미지 캡차를 방치하는 것은 사실상 문을 열어두는 것과 다르지 않습니다. 이제는 무감각 행동 분석이나 하드웨어 기반 인증 등 다음 단계의 보안 체계로 전환해야 할 시점입니다.