오픈AI, AI 악용한 5개 여론 조작 네트워크 적발해 차단

생성형 AI가 악성 여론 조작의 강력한 무기가 될 것이라는 우려가 팽배한 가운데, OpenAI가 현장 실태를 담은 흥미로운 보고서를 내놓았습니다.

OpenAI는 지난 3개월 동안 자사 AI 모델을 악용해 은밀한 여론 조작 공작(IO)을 시도한 5개 네트워크의 계정을 적발해 전면 차단했다고 발표했습니다. 이들의 배후는 러시아, 중국, 이란, 그리고 이스라엘의 정치 컨설팅 상용 업체로 확인되었습니다.

하지만 이들이 첨단 AI를 쥐고 거둔 성과는 대중의 공포와 달리 매우 초라했습니다.

최첨단 모델로 허드렛일, 실제 파급력은 바닥

이들 공작망이 다룬 주제는 우크라이나 침공, 가자지구 분쟁, 인도 총선, 서방 정치 지형 등 굵직한 사안들이었습니다.

러시아 연계 조직인 Bad Grammar는 텔레그램 봇 코드 수정과 짧은 정치 댓글 생성에 AI를 썼고, 또 다른 러시아 조직인 Doppelganger는 유럽 여러 언어로 번역한 글을 X와 9GAG 등에 유포했습니다. 중국의 Spamouflage는 다국어 소셜 포스팅과 웹사이트 관리용 코드 디버깅에, 이란 조직은 웹사이트 게시용 장문 기사 생성에 모델을 활용했습니다. 이스라엘 기업 STOIC은 페이스북과 인스타그램에서 가짜 계정 프로필과 댓글을 양산했습니다.

하지만 이들이 AI를 활용한 방식은 사실상 번역기나 초급 코딩 보조 수준에 머물렀습니다.

실제 여론을 흔드는 데도 실패했습니다. 브루킹스 연구소의 공작 파급력 척도(1~6단계)에 따르면 이번에 적발된 5개 네트워크는 모두 2점 이하에 그쳤습니다. 여러 플랫폼에 글을 도배했을 뿐, 실제 네티즌 커뮤니티 내부로는 전혀 파고들지 못했다는 뜻입니다.

심지어 작업자의 미숙함도 여실히 드러났습니다. AI 모델이 정책상 생성을 거부하며 내뱉은 안내 문구를 그대로 복사해 웹사이트나 SNS에 게시하는 촌극을 빚기도 했습니다.

수개월 걸리던 배후 조사를 며칠 만에 끝낸 방어팀

공작원들이 챗봇과 씨름하는 사이, 방어망의 진화 속도는 훨씬 빨랐습니다.

OpenAI는 자사 안전 시스템이 악의적인 텍스트 및 이미지 생성 요청을 사전에 차단했다고 밝혔습니다. 또한 GPT-4 기반의 자체 분석 툴을 도입해, 과거 수주일에서 수개월이 걸리던 다중 플랫폼 분석 작업을 단 며칠 만에 끝마쳤습니다.

OpenAI는 이번 조사에서 확보한 위협 지표를 다른 테크 기업들과 오픈소스 연구 커뮤니티에 공유하며 공동 대응에 나섰습니다.

왜 중요한가

우리는 이번 발표가 AI 인지전 신화에 실질적인 팩트 체크를 제공했다고 봅니다.

여론 조작의 핵심 장벽은 글을 빠르게 찍어내는 속도가 아니라, 플랫폼 알고리즘을 뚫고 실제 대중의 신뢰와 공감을 얻어내는 유통 능력입니다. 진성 반응을 이끌어내지 못한다면, AI로 수만 건의 댓글을 뽑아내 봤자 공허한 스팸에 불과하다는 점이 입증되었습니다.

물론 방심은 금물입니다. 외국어 번역 투나 문법 오류가 사라지면서 해외 공작 세력이 현지인처럼 위장하는 진입 장벽 자체는 턱없이 낮아졌습니다.

산업적 관점에서는 AI 기술이 공격자보다 방어자에게 더 큰 레버리지를 안겨주고 있다는 점이 확인되었습니다. 로그 추적, 교차 검증, 위협 패턴 분석 등 방어 영역에서 대형 언어 모델의 생산성 향상은 공격자의 어설픈 활용을 압도하고 있습니다.

문제는 사각지대입니다. OpenAI는 자사 API 접속을 차단할 수 있지만, 로컬 하드웨어에서 돌아가는 오픈소스 모델까지 막을 수는 없습니다. 공작 세력이 통제 불가능한 오프라인 모델로 완전히 갈아탈 경우, 진정한 수색전은 그때부터 시작될 것으로 보입니다.