앤트로픽, 클로드 악용 사례 공개: 봇 계정 지휘부터 악성코드 제작까지

댓글 창에 도배되는 어색한 번역투의 여론 조작 계정은 이제 옛말이 되어가고 있습니다.

Anthropic이 Claude의 악용 사례를 분석한 보안 보고서를 공개했습니다. 공격자들은 이제 생성형 AI를 단순히 글을 써주는 도구로 쓰지 않고, 봇 군단을 진두지휘하는 현장 사령관으로 활용하고 있었습니다.

좋아요 누를 타이밍까지 AI가 지시하는 여론 조작

보고서에서 가장 충격적인 사례는 상업용 여론 조작 서비스였습니다.

이들은 X와 페이스북에서 100개 이상의 봇 계정을 굴리며 여러 국가 의뢰인의 정치적 입장을 대변했습니다. 각 계정마다 뚜렷한 정치적 성향을 가진 가상 페르소나를 부여해 관리했습니다.

교묘한 점은 자극적인 바이럴을 노리지 않았다는 사실입니다. 운영자들은 Claude에게 지휘관 역할을 맡겨, 실제 사용자의 게시물을 실시간으로 분석한 뒤 좋아요를 누를지, 공유할지, 댓글을 달지, 아니면 그냥 무시할지 전술적인 결정을 내리게 했습니다. 이 방식으로 수만 명의 실제 사용자 피드에 조용히 침투해 완만한 여론을 장기적으로 주입했습니다.

사기 문구 세탁부터 초보자의 악성코드 제작까지

AI를 활용해 범죄 기술의 격차를 메우려는 시도도 포착되었습니다.

동유럽 구직자를 노린 취업 사기 조직은 어설픈 영문 텍스트를 Claude에 넣어 원어민 채용 담당자가 쓴 것처럼 매끄럽게 교정하는 이른바 실시간 언어 세탁을 거쳤습니다. 면접 질문과 시나리오까지 정교하게 만들어 의심을 피했습니다.

또한 유출된 IoT 보안 카메라의 로그인 정보를 대량으로 긁어모으기 위해 스크래핑 툴을 재작성하거나, 정규 코딩 경험이 없는 초보 해커가 Claude의 코칭을 받아 안면 인식과 다크웹 검색 기능이 포함된 정교한 악성코드를 만들어내기도 했습니다. Anthropic은 해당 공격들이 실제 피해로 이어지지는 않은 것으로 파악했으며 연루된 계정은 즉시 차단했다고 밝혔습니다.

왜 중요한가

이번 보고서는 AI의 악용 양상이 텍스트 생성에서 자율적인 대리 판단으로 넘어가고 있음을 명확히 보여줍니다.

그동안 플랫폼 기업들은 비슷한 문구가 반복되거나 비정상적인 속도로 글이 올라오는 패턴을 잡아왔습니다. 하지만 AI가 사람처럼 언제 반응하고 언제 침묵할지 스스로 결정하기 시작하면 기존 모니터링 시스템은 무력화됩니다. 에이전트 기술이 발전할수록 정체를 숨긴 지능형 봇 네트워크는 훨씬 늘어날 것으로 보입니다.

일반 사용자 입장에서는 이제 온라인 공간의 경계심을 한 단계 높여야 합니다. 소셜 미디어에서 온건하게 대화를 나누던 계정이나 링크드인에서 완벽한 영문으로 스카우트 제의를 건네온 담당자가 사실은 특정 목적을 띤 AI 봇일 가능성이 커졌기 때문입니다.

공격을 사전에 감지해 투명하게 공개한 Anthropic의 대응은 바람직합니다. 다만 이번에 쓰인 기술들은 코드 리팩토링이나 영문 교정처럼 평범한 사용자들이 매일 쓰는 기능과 종이 한 장 차이입니다. 정상적인 쓰임새를 해치지 않으면서 숨겨진 악의적 의도만 골라 차단하는 일은 앞으로 모든 AI 기업이 떠안아야 할 가장 까다로운 숙제입니다.