AI로 만든 '펜타곤 폭발' 가짜 사진 확산에 미국 증시 일시 하락

가짜 이미지 한 장에 미국 증시가 순간적으로 출렁였습니다.

월요일 오전, 미국 버지니아주 알링턴에 있는 국방부(펜타곤) 청사 근처에서 거대한 검은 연기가 치솟는 모습을 담은 사진이 트위터를 통해 빠르게 퍼져나갔습니다. 펜타곤 인근에서 폭발이 일어났다는 설명이 붙은 사진이었습니다.

4분 만에 곤두박질친 증시

혼란은 금융 시장으로 곧장 번졌습니다.

미 동부 시간 오전 10시 6분, 금융 속보를 주로 전하는 계정인 @Deltaone이 이 소식을 공유했습니다.

그러자 불과 4분 뒤인 오전 10시 10분, 미국 주식 시장은 0.26% 급락했습니다. 다행히 시장은 곧바로 반등했지만, 가짜 이미지 하나가 실제 자본을 흔들어버린 순간이었습니다.

확산 과정에는 영향력 있는 계정들이 한몫했습니다. 300만 명이 넘는 팔로워를 보유한 러시아 국영 매체 RT가 해당 이미지를 트윗했다가 나중에 삭제했고, 주요 언론사를 사칭한 파란색 인증 마크 계정까지 거짓 소식을 날랐습니다.

사태가 커지자 알링턴 소방국이 급히 트위터를 통해 진화에 나섰습니다. 소방국은 펜타곤 부지나 인근에서 어떤 폭발이나 사고도 발생하지 않았으며 대중에게 위험이 없다고 발표했고, 이후 관련 계정들도 정정 글을 올리며 소동은 일단락되었습니다.

자세히 보면 드러나는 AI 생성의 허점

사실 조금만 자세히 들여다보면 AI가 만들어낸 오류가 금방 드러나는 사진이었습니다.

조사관 닉 워터스를 비롯한 여러 네티즌은 이미지의 어색한 부분들을 짚어냈습니다. 건물 외관의 선이 기형적으로 일그러져 있고, 울타리가 군중 통제용 바리케이드 속으로 녹아들듯 엉켜 있는 등 전형적인 AI 생성물의 왜곡이 확인되었습니다.

상식적으로도 허점이 많았습니다. 대낮에 펜타곤 같은 주요 시설에서 폭발이 발생했다면 목격자들이 찍은 영상이나 다른 각도의 사진이 쏟아져 나와야 정상인데, 인터넷 전체에 단 한 장의 사진만 돌고 있었기 때문입니다.

이 가짜 이미지를 누가 만들었는지는 아직 밝혀지지 않았습니다. 하지만 최근 명품 패딩을 입은 교황의 딥페이크 사진이 화제가 된 데 이어, 이번에는 국가 안보와 금융 시장을 직접 겨냥하는 수준으로 번졌습니다.

왜 중요한가

우리는 이번 사건이 생성형 AI의 위험성이 스크린을 넘어 실제 금융 시장에 직접적인 타격을 입힌 상징적인 사건이라고 봅니다.

일반 투자자들에게는 소셜 미디어 속보에 의존한 거래가 얼마나 위험한지 일깨워준 사례입니다. 많은 퀀트 펀드와 알고리즘 트레이딩 시스템이 SNS의 속보와 키워드를 실시간으로 수집합니다. 인증 마크를 단 계정이 '폭발' 같은 단어를 쏟아내면, 알고리즘은 울타리가 찌그러졌는지 확인할 틈도 없이 즉각 매도 버튼을 누릅니다.

트위터의 유료 인증 마크 제도가 지닌 맹점도 적나라하게 드러났습니다. 돈만 내면 공신력 있어 보이는 외형을 갖출 수 있는 구조에서 AI로 만든 그럴싸한 가짜 이미지가 결합하자, 시장을 흔드는 비용이 사실상 제로에 가까워졌습니다.

우리가 보기에 이런 'AI 가짜 뉴스를 이용한 단기 시세 조작' 시도는 앞으로 더 정교해져서 반복될 가능성이 높습니다. 금융 알고리즘이 AI 이미지를 자체적으로 검증할 수 있는 장치를 마련하지 않는 한, 한순간의 가짜 정보에 휘둘리는 시장의 취약점은 계속 남을 것으로 보입니다.