구글, 실시간으로 코드 변형하는 AI 악성코드 '프롬프트플럭스' 경고

기존 백신 프로그램은 지문 대조 방식으로 악성코드를 잡았습니다. 보안 데이터베이스에 등록된 시그니처와 일치하기만 하면 즉시 차단할 수 있었습니다.

하지만 공격을 진행하는 도중에 스스로 지문을 계속 바꿔버리는 악성코드가 등장한다면 이야기가 완전히 달라집니다.

구글 위협 인텔리전스 그룹(GTIG)이 최근 포착한 신종 악성코드 'PROMPTFLUX'가 바로 그런 사례입니다.

공격 중에 실시간으로 코드를 바꾸는 악성코드

구글에 따르면 PROMPTFLUX는 구글 제미나이 같은 최신 생성형 AI 모델을 구동하는 기술을 활용합니다.

기존 악성코드는 아무리 정교해도 사전에 작성된 고정 스크립트를 따르는 것이 일반적이었습니다.

반면 PROMPTFLUX는 대상을 공격하는 바로 그 순간에 AI를 사용해 자신의 코드를 실시간으로 다시 작성합니다.

공격 과정에서 환경을 학습하고 적응하며 즉석에서 새로운 공격 방식을 생성해 냅니다.

보안 시스템과 백신 프로그램이 고유 시그니처를 인식하지 못하도록 겉모습을 끊임없이 변형하는 것이 핵심 목적입니다.

아직 테스트 단계, 구글은 대항 AI 'Big Sleep' 가동

다행스러운 점은 이 악성코드가 아직 테스트 단계에 머물러 있다는 사실입니다.

구글이 확보한 샘플에는 미완성된 부분이 다수 포함되어 있었으며, 실제 외부 환경에서 일반 사용자를 감염시킨 사례는 발견되지 않았습니다.

구글은 해당 악성코드와 연계된 자산과 계정을 이미 폐쇄 조치했습니다.

그러나 위험 요소는 여전합니다. 구글은 이러한 악성 AI 도구가 암시장에 유통될 경우, 기술 수준이 낮은 초보 해커들까지 고성능 변종 악성코드를 손쉽게 다루게 될 상황을 우려하고 있습니다.

이에 대응해 구글은 자체 AI 시스템 방어를 위한 신규 보안 프레임워크를 도입하는 한편, 취약점을 선제적으로 탐지해 패치하는 'Big Sleep' 같은 대항 AI 프로젝트를 가동하고 있습니다.

왜 중요한가

우리는 PROMPTFLUX가 시그니처 기반 보안 체계의 한계를 드러낸 결정적인 신호라고 봅니다.

일반 기업과 이용자 입장에서는 알려진 악성코드 목록에만 의존하던 기존 백신 방식의 신뢰도가 크게 떨어질 수밖에 없습니다. 실시간 행위 분석과 능동적 방어 체계를 도입해야 하므로 인프라 보안 구축에 드는 부담이 커질 것으로 보입니다.

보안 업계 전반에서도 공격과 방어의 패러다임이 AI 대 AI의 대결로 급격히 전환되고 있습니다. 몇 초 단위로 형태를 바꾸는 악성코드를 인간 분석가가 수동으로 분석해 패치를 내놓는 방식으로는 속도를 따라잡기 어렵습니다.

언어 모델을 실시간 코드 변이 엔진으로 활용한 발상은 기술적으로 영리하지만, 암시장을 통해 무기화될 경우 전체 인터넷 생태계의 안전망을 흔들 잠재적 위험이 큽니다. 결국 사이버 보안의 성패는 어느 쪽의 AI가 더 빠르고 똑똑한가에 달려 있는 셈입니다.