ChatGPT Agent, ‘로봇이 아닙니다’ 인증 직접 클릭해 통과

인터넷에서 봇을 걸러내기 위해 만든 관문을 인공지능 에이전트가 아무렇지 않게 통과했습니다. 심지어 자신이 봇이 아니라는 점을 증명하겠다고 스스로 독백까지 읊으며 확인란을 클릭했습니다.

지난 금요일, 레딧의 r/OpenAI 커뮤니티 이용자인 logkn은 OpenAI의 신기능인 ChatGPT Agent가 클라우드플레어(Cloudflare)의 봇 방지 인증을 가볍게 통과하는 캡처 화면을 공유했습니다. 당시 에이전트는 영상 포맷 변환 작업을 진행 중이었습니다.

ChatGPT Agent는 가상 운영체제와 자체 브라우저가 포함된 샌드박스 환경에서 웹을 탐색하며 사용자의 다단계 작업을 대신 수행하는 기능입니다. 사용자는 작업 과정을 화면으로 지켜볼 수 있고, 결제처럼 현실에 직접 영향을 미치는 행동은 사용자의 사전 승인을 받도록 설계되었습니다.

봇이 밝힌 포부: 내가 봇이 아님을 증명하겠다

이번 상황에서 많은 이들의 실소를 자아낸 부분은 에이전트가 화면에 남긴 실시간 작업 설명이었습니다.

에이전트는 "링크를 입력했으니 이제 클라우드플레어 인증을 완료하기 위해 '사람인지 확인합니다' 확인란을 클릭하겠습니다. 이 단계는 작업을 계속 진행하기 위해 제가 봇이 아님을 증명하는 데 필수적입니다"라고 서술했습니다.

이어 확인란을 클릭하자 인증이 곧바로 통과되었고, 에이전트는 곧장 변환 버튼을 눌렀습니다. 이를 본 레딧 이용자들은 "인간의 데이터를 학습했으니 스스로를 봇으로 인식하지 않는 것도 당연하다. 그 정체성을 존중해 주자"라며 농담 섞인 반응을 보였습니다.

왜 중요한가

일반 이용자 입장에서는 작업의 연속성이 크게 높아진다는 실질적인 장점이 있습니다. 파일 변환이나 웹 서핑 같은 반복 작업을 AI에 맡겨두었을 때, 단순 체크박스 하나 때문에 매번 사용자가 개입해 화면을 눌러줘야 한다면 자동화 도구로서의 가치가 반감되기 때문입니다.

하지만 웹 보안 생태계 입장에서는 웃어넘기기 힘든 장면입니다.

클라우드플레어의 해당 체크박스는 본래 자동화 스크립트나 매크로를 차단하기 위해 고안된 장치입니다. 그러나 독립된 브라우저 환경에서 사람처럼 마우스를 움직이고 상호작용하는 최신 AI 에이전트 앞에서는 기존의 수동적 봇 감지 체계가 무력화되고 있음이 드러났습니다.

우리는 이번 사례가 단순한 해프닝을 넘어 웹 인증 체계의 근본적인 한계를 보여준다고 생각합니다. AI가 사람과 구별하기 힘든 방식으로 웹을 탐색할 수 있게 되면서, 향후 사이트들은 더 까다로운 인증 수단을 도입할 수밖에 없을 것입니다. 결국 자동화 봇을 막겠다는 명분 아래 일반 인간 사용자들이 감수해야 할 피로도만 더 커질 우려가 큽니다.