OpenAI, 美 대선 여론 조작 시도한 이란 공작 계정 차단

최근 온라인에서 미국 대선을 둘러싼 격렬한 정치 논쟁을 보셨다면, 그 글을 쓴 주체가 유권자가 아닐 가능성이 있습니다.

OpenAI는 미국 대선 국면을 겨냥해 여론 조작을 시도한 이란 연계 공작 조직인 Storm-2035 소속의 ChatGPT 계정들을 적발하고 차단 조치했다고 밝혔습니다.

진보와 보수를 오가며 패션 글까지 투척

조사 결과에 따르면 이들은 ChatGPT를 긴 기사 작성과 소셜 미디어용 짧은 댓글 생성이라는 두 가지 용도로 활용했습니다.

먼저 niothinker[.]com 등 5개의 위장 웹사이트를 개설해 진보와 보수 성향 매체 행세를 동시에 하며 미국 대선 후보 비평, 가자지구 분쟁, 올림픽 이스라엘 참가 이슈 등을 다뤘습니다. 이 밖에도 베네수엘라 정치나 스코틀랜드 독립 같은 주제도 다룬 것으로 확인됐습니다.

소셜 미디어에서는 X 계정 10여 개와 인스타그램 계정 1개를 동원해 영어와 스페인어로 여론전을 펼쳤습니다. 다른 일반 사용자가 올린 댓글을 ChatGPT에 넣어 다시 쓰게 한 뒤 등록하는 수법도 썼습니다. 특히 실제 사람처럼 보이고 팔로워를 모으기 위해 정치 글 중간중간 패션과 뷰티 관련 게시물을 섞어 올리는 치밀함도 보였습니다.

확산력은 사실상 0에 수렴

시도는 집요했지만 성과는 초라했습니다. OpenAI는 해당 콘텐츠가 유의미한 독자층에 도달한 징후를 찾지 못했다고 밝혔습니다. 게시물 대부분은 좋아요, 공유, 댓글이 거의 없거나 아예 없는 수준이었습니다.

브루킹스 연구소의 영향력 공작 척도(1~6단계) 기준으로도 이번 활동은 실제 인간 사용자들에게 전혀 전파되지 못한 최하위 수준인 2단계의 낮은 등급에 그쳤습니다. 이번 차단은 직전 주에 마이크로소프트가 공개한 위협 인텔리전스 정보를 바탕으로 진행됐습니다.

왜 중요한가

생성형 AI의 등장으로 적대 세력이 여론 공작을 시도하는 비용이 거의 공짜에 가까워진 것은 분명합니다. 진보와 보수를 오가는 그럴듯한 논리를 대량 생산하는 일은 이제 몇 초면 끝납니다.

하지만 이번 사건은 콘텐츠를 찍어내는 능력과 대중의 실제 반응을 이끌어내는 영향력 사이에는 여전히 거대한 간극이 존재함을 명확히 보여줍니다. OpenAI가 마이크로소프트와 공조해 신속히 계정을 닫고 관련 데이터를 투명하게 공개한 것은, 대선 국면에서 번지는 AI 여론 조작 공포를 완화하는 데 똑똑한 대처였습니다.

문제는 공격자들의 학습 능력입니다. 비용이 들지 않는 만큼 이들은 알고리즘을 뚫고 실제 대중을 낚을 수 있는 방식을 끊임없이 실험할 것입니다. 사후 차단 방식의 두더지 잡기식 대응만으로는 향후 더 정교해질 차세대 AI 여론전에 맞서기에 구조적인 한계가 있어 보입니다.