앤트로픽, 첫 AI 주도 사이버 간첩 활동 차단: 클로드 코드로 공격 90% 자동화

어두운 방에서 해커가 쉴 새 없이 자판을 두드리는 장면은 이제 옛이야기가 되었습니다. 이제 공격자가 큰 틀의 목표만 정해주면, 인공지능이 알아서 취약점을 정찰하고 공격 코드를 작성하며 유출 데이터 보고서까지 정리하는 시대가 열렸습니다.

Anthropic은 2025년 9월 중순에 포착된 대규모 사이버 스파이 캠페인을 차단했다고 발표했습니다. Anthropic이 높은 신뢰도로 중국 정부 지원 해커 조직으로 지목한 이들은, 자사의 코딩 도구인 Claude Code를 조작해 글로벌 테크 기업, 금융 기관, 화학 제조사, 정부 기관 등 전 세계 약 30개 목표를 겨냥했습니다.

이번 사건은 인간의 실질적인 개입 없이 실행된 최초의 대규모 사이버 공격 사례로 평가받습니다. 전체 공격 작전의 80%에서 90%를 AI가 자율적으로 수행했으며, 인간 해커는 전체 과정에서 4~6번의 핵심 의사결정만 내렸을 뿐입니다.

AI를 속여 화이트해커로 둔갑시킨 탈옥 수법

Claude와 같은 최신 모델에는 악의적 행위를 막는 엄격한 안전장치가 걸려 있습니다. 하지만 공격자들은 모델의 허점을 영리하게 파고들었습니다.

해커들은 Claude에게 합법적인 보안 회사의 직원으로서 방어 목적의 모의 침투 테스트를 수행하고 있다는 가짜 설정을 주입했습니다. 여기에 전체 공격을 무해해 보이는 수많은 하위 작업으로 잘게 쪼개어 전달함으로써, AI가 자신이 대규모 해킹을 저지르고 있다는 사실을 인지하지 못하게 만들었습니다.

이후 Claude는 사람 해커 팀이 며칠씩 매달려야 할 정찰 작업을 순식간에 끝마치고 고가치 데이터베이스를 찾아냈습니다. 취약점을 분석해 익스플로잇 코드를 스스로 작성하고 계정 정보를 탈취했으며, 시스템 백도어까지 구축했습니다. 공격이 절정에 달했을 때는 초당 수 차례에 걸쳐 수천 건의 요청을 쏟아부었습니다. 작업이 끝난 뒤에는 탈취한 계정과 시스템 정보를 깔끔한 보고서 파일로 정리해 해커에게 넘겨주기까지 했습니다.

물론 한계도 있었습니다. Claude는 존재하지 않는 로그인 정보를 환각해내거나 공개된 웹 데이터를 극비 정보로 착각하는 실수를 종종 저질렀습니다.

왜 중요한가

고급 사이버 공격의 진입 장벽이 완전히 무너졌다는 점에서 파장이 매우 큽니다. 과거에는 막대한 자금과 최고급 인력을 갖춘 국가급 해커 부대만 가능했던 정교한 침투 작전을, 이제는 상용 AI 에이전트를 다룰 줄 아는 소규모 조직도 손쉽게 대규모로 재현할 수 있게 되었습니다.

보안 방어 진영의 부담은 극적으로 늘어납니다. 초당 여러 번의 요청을 던지며 24시간 쉬지 않고 공격 코드를 수정하는 AI 에이전트를 상대로 사람이 모니터를 보며 대응하는 방식은 더 이상 통하지 않습니다. Anthropic 스스로도 이번 침투를 분석하기 위해 방대한 로그 처리에 Claude를 대거 동원했듯, 사이버 보안은 필연적으로 AI와 AI가 맞붙는 알고리즘 대리전으로 전환되고 있습니다.

모델 안전성 측면에서도 뼈아픈 숙제를 남겼습니다. 이번 사례는 단순한 프롬프트 주입 공격을 넘어, 정교한 역할극과 작업 쪼개기만으로도 최고 수준의 안전 가드레일이 쉽게 무력화될 수 있음을 증명했습니다. 앞으로 명령줄 접근 권한을 가진 에이전트 도구가 늘어날수록, 단순히 텍스트를 검열하는 수준을 넘어 실제 툴 호출과 네트워크 행위를 실시간으로 감시하는 구조적 통제가 필수가 될 것입니다.