다크웹에 ChatGPT 계정 10만 건 유출, OpenAI "해킹 아닌 악성코드 탓"

많은 사용자가 회사 소스 코드나 사업 기획서, 심지어 개인 일기까지 ChatGPT에 거리낌 없이 입력합니다. OpenAI의 보안을 믿기 때문이지만, 해커들은 굳이 OpenAI의 서버를 뚫을 필요조차 없었습니다. 개인 PC에서 정보를 가로채는 것만으로 충분했기 때문입니다.

싱가포르 사이버 보안 기업 Group-IB의 위협 인텔리전스 보고서에 따르면, 2022년 6월부터 2023년 5월까지 다크웹에 유출된 ChatGPT 계정 자격 증명이 10만 건을 넘어선 것으로 나타났습니다. 유출 규모는 대화형 AI의 인기와 함께 폭증해 2023년 5월 한 달에만 26,802건으로 정점을 찍었으며, 아시아 태평양 지역에서 가장 활발히 거래되었습니다.

OpenAI 해킹이 아닌 악성코드 감염

보도가 나오자 OpenAI 측은 발 빠르게 입장을 내놓았습니다. OpenAI 대변인은 이번 유출이 자사 시스템 침해가 아니라, 이용자 개인 기기에 설치된 악성 소프트웨어 때문에 발생한 결과라고 밝혔습니다. 이어 업계 표준 보안 인증 절차를 유지하고 있다며 이용자들에게 강력한 비밀번호 사용과 검증된 소프트웨어 설치를 당부했습니다.

실제로 이번 유출은 웹 브라우저에 저장된 비밀번호와 쿠키를 가로채는 정보 탈취형 악성코드(인포스틸러)를 통해 이뤄졌습니다. 그중 Raccoon이라는 악성코드가 무려 78,348건의 계정을 탈취하며 압도적 1위를 기록했고, Vidar(12,984건)와 RedLine(6,773건)이 그 뒤를 이었습니다.

Raccoon은 다크웹에서 구독형 모델(SaaS) 형태로 유통되어 특별한 기술이 없는 공격자도 손쉽게 배포할 수 있습니다. 피해를 본 이용자들은 인도, 파키스탄, 브라질, 베트남, 미국, 프랑스 등 전 세계에 걸쳐 광범위하게 분포했습니다.

채팅 기록 자체가 거대한 기밀 보관소

일반 웹사이트의 계정 유출보다 ChatGPT 유출이 훨씬 치명적인 이유는 대화 기록 때문입니다. ChatGPT는 기본 설정상 이전 대화를 모두 보관하므로, 공격자가 계정 로그인에 성공하면 이용자가 나눈 모든 대화를 고스란히 열어볼 수 있습니다.

상당수 직장인이 사내 비공개 코드 최적화나 사업 기획안 요약, 기밀 메일 작성 등에 챗봇을 활용하고 있습니다. 공격자 입장에서는 계정 하나를 손에 넣는 것만으로 기업 내부 기밀 문서를 통째로 확보하는 셈입니다. 게다가 인포스틸러는 ChatGPT 계정뿐 아니라 브라우저에 저장된 다른 서비스의 단일 로그인(SSO) 정보나 금융 데이터까지 함께 빼갔을 가능성이 큽니다.

왜 중요한가

우리는 이번 사건이 대화형 AI를 개인 비서처럼 쓰는 모든 이용자에게 심각한 경고를 던졌다고 봅니다. 지금 당장 계정 비밀번호를 변경하고 2단계 인증(2FA)을 활성화해야 하며, 민감한 내부 데이터가 포함된 과거 대화 기록은 즉시 정리할 가치가 있습니다.

기업 보안 측면에서도 시사하는 바가 큽니다. 삼성전자 등 주요 글로벌 기업들이 왜 생성형 AI 사내 도입을 전면 제한하거나 신중한 태도를 취했는지 그 이유를 보여줍니다. 아무리 AI 모델 자체 보안이 뛰어나도, 직원들이 사용하는 엔드포인트 기기가 뚫리면 AI는 가장 손쉬운 산업 스파이 통로로 전락합니다.

OpenAI의 해명 자체는 사실이지만, 사용자 책임으로만 돌리기에는 AI 챗봇이 다루는 데이터의 무게감이 너무 커졌습니다. 대화 기록 보관 주기 단축이나 세션 만료 정책 강화 등 플랫폼 차원에서도 계정 탈취 피해를 최소화할 수 있는 안전장치를 선제적으로 마련해야 할 시점이라고 판단합니다.