메타 보안 보고서: 러시아의 생성형 AI 기반 미 대선 개입 시도 ‘효과 미미’

생성형 AI가 올해 주요 선거 판세를 뒤흔들 것이라는 우려가 팽배한 가운데, Meta가 전혀 다른 현장 데이터를 담은 보안 보고서를 공개했습니다.

Meta에 따르면 러시아 등 적대적 세력이 선거 개입을 위해 생성형 AI를 적극적으로 동원하고 있지만, 그 성과는 사실상 실패에 가깝습니다.

생산성은 늘었지만 확산에는 실패

Meta가 발표한 보안 보고서에 따르면 생성형 AI는 악의적 행위자들에게 콘텐츠 생산성과 제작 속도 면에서 미미한 수준의 이점만 제공하고 있습니다.

Meta의 보안 정책 책임자인 David Agranovich는 페이스북과 인스타그램에서 발생하는 조직적 허위 행동의 최대 진원지가 여전히 러시아라고 밝혔습니다.

러시아의 온라인 공작은 2022년 우크라이나 침공 이후 우크라이나와 서방 동맹국을 약화시키는 데 집중되어 왔으며, 미국 대선이 다가옴에 따라 우크라이나 지원을 지지하는 정치인들을 겨냥한 공작이 더욱 거세질 것으로 예상됩니다.

공작원들은 ChatGPT나 DALL-E 같은 도구를 활용해 허위 기사 요약, 번역, 이미지 및 영상 제작을 빠르게 수행하고 있습니다. 그러나 Meta는 게시물의 내용이 아니라 계정의 행동 패턴을 기반으로 탐지하기 때문에, AI 사용 여부와 무관하게 이들의 활동을 무력화할 수 있었다고 설명했습니다.

협력이 삐걱거리는 플랫폼 간 연계

문제는 이러한 여론 조작이 단일 플랫폼 안에서만 머물지 않는다는 점입니다.

Meta는 공작 세력이 조작된 정보의 신빙성을 높이기 위해 X에 먼저 게시물을 올린 뒤 이를 다른 소셜 플랫폼으로 퍼뜨리는 수법을 자주 쓴다고 밝혔습니다.

Meta는 다른 테크 기업들과 위협 정보를 공유하고 있지만, X와의 공조는 예전 같지 않습니다. Agranovich는 X가 여전히 전환기를 겪고 있으며 과거 협력하던 실무진 다수가 회사를 떠났다고 지적했습니다.

X가 신뢰 및 안전 조직을 대폭 축소하고 콘텐츠 검수를 줄이면서, 연구자들 사이에서는 X가 허위 정보의 온상이 되었다는 비판이 이어지고 있습니다.

왜 중요한가

이번 보고서는 AI 기반 선거 조작에 대한 과도한 공포를 덜어내는 의미 있는 신호입니다. 생성형 AI가 허위 정보의 제작 비용을 거의 0으로 낮춘 것은 사실이지만, 무작위로 찍어낸 저품질 콘텐츠가 유권자의 표심을 흔드는 영향력까지 갖춘 것은 아니라는 점을 보여줍니다.

방어 전략 측면에서도 시사하는 바가 큽니다. AI 생성물인지 여부를 텍스트나 이미지 자체로 판별하려는 시도보다, 비정상적인 계정 네트워크와 행동 방식을 추적하는 Meta의 접근법이 훨씬 효과적인 방어벽으로 작동하고 있습니다.

그러나 한 플랫폼의 방어만으로는 충분하지 않습니다. X처럼 안전 검수 조직이 축소된 플랫폼이 가짜 뉴스의 세탁 경로로 방치된다면, 전체 디지털 생태계의 보안 수준은 가장 취약한 고리에 의해 결정될 수밖에 없습니다.