러시아 해커, 가상 번호로 ChatGPT 우회해 악성코드 제작 시도

OpenAI는 사이버 범죄자들의 악용을 막기 위해 국가별 접속 차단과 전화번호 인증이라는 빗장을 걸어 잠갔습니다. 하지만 지하 해킹 포럼에서 이 방어벽은 사실상 종이 호랑이에 불과했습니다.

보안 기업 체크포인트 소프트웨어는 최근 러시아 사이버 범죄자들이 지하 포럼에서 ChatGPT의 접근 제한을 우회하는 방법을 활발하게 공유하고 있는 정황을 포착했습니다. IP 차단은 물론이고 결제 카드와 전화번호 인증까지 무력화하는 수법이 논의되고 있었습니다.

단돈 2센트로 뚫리는 방어선

OpenAI는 러시아 등 특정 지역의 접근을 지오블로킹으로 막고 가입 시 유효한 휴대전화 번호 인증을 요구합니다. 그러나 러시아 지하 포럼에는 이를 손쉽게 우회하는 가이드가 버젓이 올라와 있었습니다.

해커들은 반영구적인 온라인 가상 SMS 서비스를 이용했습니다. 단돈 2센트만 내면 해외 가상 번호를 구입해 OpenAI의 인증 코드를 가볍게 수신할 수 있었습니다. 일반 웹 인터페이스 접근이 까다로워지자 도난 카드로 결제해 API 접근 권한을 얻는 방안까지 구체적으로 오갔습니다.

체크포인트의 세르게이 시케비치 위협 인텔리전스 그룹 매니저는 OpenAI의 제한 조치를 우회하는 것이 전혀 어렵지 않다고 꼬집었습니다. 범죄자들에게 생성형 AI는 운영 비용을 획기적으로 낮춰주는 가장 매력적인 무기가 된 셈입니다.

악성코드 제작과 피싱 메일의 무기화

빗장을 푼 해커들은 곧바로 실전 테스트에 들어갔습니다. 한 포럼의 악성코드 관련 게시글에서는 ChatGPT를 이용해 실제 정보 유출형 악성코드를 복원해 낸 사례가 공개되었습니다.

작성자는 기존 보안 보고서에 실린 악성코드 설명을 프롬프트로 입력했고, AI는 일반 파일을 검색해 임의 폴더로 복사한 뒤 하드코딩된 FTP 서버로 전송하는 파이썬 코드를 뚝딱 만들어냈습니다. 여기에 어색한 외국어 표현을 없앤 정교한 피싱 메일 작성에도 악용되고 있습니다.

OpenAI 측은 악용 방지 필터를 두고 있지만 일부 요청이 감시망을 빠져나가고 있음을 인정했습니다. 해커들이 연구 목적이나 가상 시나리오를 가장한 프롬프트로 AI를 속여 유해 코드를 받아내는 식입니다.

왜 중요한가

이번 사례는 전통적인 웹 보안 방식인 지역 차단과 SMS 인증이 목적을 가진 공격자 앞에서는 아무런 억제력을 발휘하지 못한다는 점을 적나라하게 보여줍니다.

기업과 일반 사용자 입장에서 가장 위험한 대목은 공격의 진입 장벽이 무너졌다는 사실입니다. 프로그래밍 지식이 얕거나 표적 국가의 언어에 서툰 초보 공격자라도 2센트짜리 계정 하나로 그럴듯한 악성코드와 정교한 피싱 공격을 대량 생산할 수 있게 되었습니다.

OpenAI가 취하고 있는 표면적인 키워드 필터링이나 접속 차단은 임시방편에 가깝습니다. 서비스 외곽의 접근 통제에만 기대서는 한계가 명확하며, 모델 내부에서 공격 의도를 정밀하게 읽어내는 근본적인 가드레일이 갖춰지지 않는다면 공격자와 방어자 사이의 비대칭성은 갈수록 방어자에게 불리해질 것으로 보입니다.