오픈AI·MS, 사이버 공격 시도한 국가 연계 해커 조직 계정 차단

인공지능이 스스로 슈퍼 바이러스를 만들어 인터넷을 마비시킬 것이라는 공포가 커지는 사이, 실제 국가 배후의 전문 해커들은 이미 ChatGPT를 실무에 도입해 쓰고 있었습니다. 다만 그 활용 방식은 생각보다 훨씬 평범했습니다.

OpenAI는 마이크로소프트 위협 인텔리전스와 협력해 국가 연계 사이버 위협 조직들이 소유한 계정들을 적발하고 즉시 차단했다고 밝혔습니다. 이번 조치 대상에는 중국, 이란, 북한, 러시아와 연계된 총 5개 해커 조직이 포함되었습니다.

해커들도 AI를 인턴처럼 굴린다

적발된 조직들은 보안 업계에서 잘 알려진 곳들입니다. 중국 연계의 Charcoal Typhoon과 Salmon Typhoon은 공개된 보안 도구 조사, 코드 디버깅 및 스크립트 작성, 기술 논문 번역, 시스템 프로세스 은닉 기법 조사 등에 OpenAI 서비스를 활용했습니다.

이란의 Crimson Sandstorm과 북한의 Emerald Sleet은 주로 스피어 피싱용 문구 작성과 앱 개발 스크립트 작성, 공개된 보안 취약점 파악에 모델을 썼습니다. 러시아 연계의 Forest Blizzard는 위성 통신 프로토콜과 레이더 영상 기술 같은 오픈소스 정보를 조사하는 데 AI를 썼습니다.

흥미로운 점은 OpenAI와 마이크로소프트 모두 공격자들이 AI를 통해 완전히 새롭거나 파괴적인 공격 기법을 구사한 정황은 발견하지 못했다는 사실입니다. 해커 조직 역시 대규모 언어 모델을 단순한 생산성 도구로 취급하며 자료 조사나 기초적인 코딩 보조 같은 허드렛일에 썼을 뿐입니다.

플랫폼의 차단 조치와 방어 원칙

OpenAI는 확인된 악성 계정을 모두 영구 차단했습니다. 자사의 보안 및 인텔리전스 조사 팀이 AI 모델을 활용해 악용 정황을 역추적하고 있으며, 이들로부터 얻은 데이터를 바탕으로 안전 장치를 지속해서 업데이트하고 있다고 설명했습니다.

마이크로소프트 역시 국가 배후 위협 조직의 AI 남용에 대응하는 원칙을 발표했습니다. 자사 API나 시스템에서 악성 행위가 감지되면 즉시 계정을 비활성화하고, 다른 AI 서비스 업체의 도구가 악용되는 사실을 발견하면 즉각 데이터를 공유해 업계 전체의 공동 대응을 이끌겠다는 방침입니다.

왜 중요한가

이번 발표는 AI로 인한 사이버 안보 위협의 실체를 명확하게 보여줍니다. 일반 사용자와 보안 담당자 입장에서 지금 당장 걱정해야 할 것은 영화 속 초지능 해커가 아니라, AI로 더 정교해진 피싱 이메일과 더 빨라진 공격 준비 속도입니다. 기존의 기본 보안 수칙만 철저히 지켜도 대다수 공격은 여전히 방어할 수 있습니다.

업계 차원에서는 마이크로소프트의 글로벌 위협 추적 역량과 OpenAI의 모델 거버넌스가 결합해 실질적인 위협 대응 표준을 세웠다는 점에서 긍정적입니다. 다른 AI 기업들에게도 악용 계정 공유와 차단 협력의 좋은 선례가 됩니다.

하지만 계정 차단이라는 조치 자체는 한계가 뚜렷합니다. 국가 차원의 자금력을 가진 해커들은 가짜 계정을 다시 만들거나 우회 경로를 찾기 쉬우며, 규제가 없는 오픈소스 모델을 자체 인프라에 올려 공격에 활용할 가능성이 높기 때문입니다. 클라우드 계정 차단은 시간을 버는 수단일 뿐 근본적인 해결책은 아닙니다.