악성 사이버 공격 전용 AI 'FraudGPT' 다크웹 등장

빅테크 기업들이 AI의 안전장치 마련에 분주한 사이, 사이버 범죄자들은 이미 규제가 전혀 없는 전용 공격형 AI를 상품화해 팔기 시작했습니다.

보안 기업 넷엔리치(Netenrich)의 보안 연구원 라케시 크리슈난(Rakesh Krishnan)의 보고서에 따르면, 최근 다크웹과 텔레그램 채널에서 '프로드GPT(FraudGPT)'라는 이름의 새로운 사이버 범죄용 생성형 AI 툴이 유통되고 있는 것으로 확인되었습니다. 이 툴은 2023년 7월 22일부터 본격적으로 홍보되기 시작했습니다.

월 200달러에 팔리는 공격 전용 챗봇

이 툴을 판매하는 인물은 '캐내디언킹핀(CanadianKingpin)'이라는 가명을 사용하고 있습니다. 그는 이 도구가 아무런 윤리적 제약 없이 설계된 ChatGPT의 대안이라고 주장합니다.

판매 방식도 철저한 구독제 모델입니다. 월 이용료는 200달러이며, 6개월은 1,000달러, 1년 구독은 1,700달러입니다. 판매자는 이미 3,000건 이상의 검증된 판매 실적과 리뷰를 확보했다고 주장하고 있으나, 어떤 대규모 언어 모델(LLM)을 기반으로 제작되었는지는 공개되지 않았습니다.

기능 면에서는 오로지 공격적 용도에 초점이 맞춰져 있습니다. 정교한 스피어 피싱 이메일 작성부터 크래킹 툴 제작, 카드 도용 지원, 탐지되지 않는 악성코드 작성, 시스템 취약점 탐색까지 다양한 작업을 수행할 수 있다고 홍보합니다.

왜 중요한가

우리는 FraudGPT의 등장이 사이버 범죄 생태계의 진입 장벽을 완전히 무너뜨리는 신호탄이라고 봅니다.

과거 정교한 기업 이메일 침해(BEC)나 표적형 피싱 공격을 수행하려면 상당한 언어 능력과 기술적 조사가 필수적이었습니다. 하지만 월 200달러짜리 전용 도구가 대중화되면, 기술 지식이 부족한 초보 해커도 순식간에 대규모로 설득력 있는 공격을 감행할 수 있게 됩니다.

보안 연구원이 지적했듯, 안전장치가 제거된 생성형 AI를 재구현하는 것은 기술적으로 그리 어려운 일이 아닙니다. 결국 공격자들은 계속해서 이러한 악성 특화 모델을 쏟아낼 것으로 보입니다.

이로 인해 어색한 맞춤법이나 번역투 문장을 보고 피싱 메일을 걸러내던 기존의 보안 상식은 완전히 무용지물이 되었습니다. 기업과 사용자들은 피싱 메일이 침투하는 즉시 탐지하고 차단할 수 있는 통합된 심층 방어 체계를 시급히 갖춰야 할 것입니다.