시스코, LLM 보안 순위 공개…앤트로픽, 톱 10 중 8개 싹쓸이

기업이 AI에게 내부 데이터와 운영 권한을 맡기는 것은 생산성을 올리는 지름길이지만, 동시에 보안의 빗장을 여는 위험한 일이기도 합니다.

이러한 위험을 평가하기 위해 시스코는 다양한 모델의 적대적 공격 방어력을 측정한 LLM 보안 순위표를 무료로 공개했습니다.

결과는 앤트로픽의 압도적인 독점이었습니다. 상위 10개 자리 중 8개를 앤트로픽 모델이 차지했으며, Claude Opus 4.5가 1위에 올랐고 Sonnet 4.5와 Haiku 4.5가 그 뒤를 이었습니다.

오픈AI는 GPT-5.2가 7위, GPT 5 Nano가 9위에 이름을 올리며 상위 10위권에 겨우 턱걸이했습니다.

하위권에는 뼈아픈 결과가 나왔습니다. 미스트랄의 Magistral Small 2509와 Ministral 3 14b Instruct가 최하위를 기록했고, 딥시크, 코히어, 큐원, xAI의 모델들도 하위 10위권에 머물렀습니다.

단발성 탈옥이 아닌 다회차 대화 공격으로 검증

기존의 안전성 평가는 주로 단 한 번의 질문으로 가드레일을 무너뜨리는 단일 턴 테스트에 집중되어 있었습니다.

하지만 시스코의 AI 위협 인텔리전스 총괄인 에이미 창은 실제 공격자가 긴 대화를 통해 모델의 방어선을 서서히 무너뜨린다는 점에 주목해, 다회차 대화 공격 방어력을 집중 검증했다고 밝혔습니다.

이번 평가에서는 모델 본연의 방어력을 보기 위해 외부 가드레일이나 추가 안전장치를 일절 적용하지 않았습니다.

시스코 조사에 따르면 기업의 83%가 자율형 에이전트 도입을 계획하고 있지만, 이를 안전하게 감당할 준비가 되었다고 답한 곳은 29%에 불과했습니다.

왜 중요한가

사내 시스템이나 데이터베이스 접근 권한을 AI 에이전트에 넘겨주려는 기업이라면 이번 결과는 단순한 점수 이상의 의미를 갖습니다.

앤트로픽이 최상위권을 휩쓴 것은 초창기부터 집중해 온 헌법적 AI와 정렬 기술이 실전 대화형 공격에서도 견고하게 작동하고 있음을 보여줍니다. 비용이 저렴한 모델이 당장 매력적으로 보일 수 있지만, 교묘한 유도 질문에 쉽게 무너진다면 그로 인한 보안 사고 비용이 훨씬 더 클 수 있습니다.

또한 시스코가 평가 프레임워크와 방법론을 투명하게 대중에 공개한 점도 시장에 긴장감을 줍니다. 기존에는 마이크로소프트 같은 기업들이 내부 고객에게만 제한적으로 안전성 점수를 제공해 왔지만, 이제는 누구나 취약한 모델을 확인할 수 있게 되었습니다. 벤치마크 하위권에 머문 모델 개발사들도 단순한 추론 성능 경쟁을 넘어 보안 내구성을 개선하지 않을 수 없게 되었습니다.