시스코, 기업용 AI 보안 솔루션 'AI 디펜스' 공개

보고서를 빨리 쓰려고 대외비 문서를 상용 AI에 그대로 붙여넣는 직원과, 출시 일정을 맞추기 위해 검증되지 않은 오픈소스 모델을 파이프라인에 연결하는 개발자. 지금 대다수 기업 보안팀이 마주한 현실입니다.

Cisco가 1월 15일, 기업의 AI 도입과 개발 전 과정을 보호하는 보안 솔루션 'Cisco AI Defense'를 공개했습니다. 정식 출시는 3월로 예정되어 있습니다. 네트워크 패브릭 자체에 보안 통제 기능을 내장해 직원의 AI 사용과 엔지니어링 환경을 동시에 통제하는 구조입니다.

Cisco의 2024 AI 준비도 지수에 따르면, 조사 대상 기업 중 AI에 대한 무단 조작을 감지하고 예방할 준비가 완전히 되어 있다고 답한 곳은 29%에 불과했습니다. 기존의 방화벽이나 엔드포인트 보안 장비로는 멀티 모델, 멀티 클라우드 환경에서 발생하는 새로운 위협을 방어하기 어렵기 때문입니다.

섀도우 AI 차단부터 알고리즘 레드팀까지

Cisco AI Defense는 직원의 일상 업무와 개발자의 구축 환경이라는 두 축을 동시에 겨냥합니다.

엔드 유저 영역에서는 이른바 '섀도우 AI' 문제를 다룹니다. 퍼블릭과 프라이빗 클라우드 전반에서 승인되거나 승인되지 않은 AI 도구를 식별하고, 정책에 따라 미승인 도구 접근을 차단하며, 네트워크 트래픽을 감시해 기밀 데이터 유출을 막습니다.

개발자 영역에서는 모델 검증과 런타임 보안을 지원합니다. 알고리즘 기반 레드팀 기능이 수백 가지 잠재적 취약점을 사전 점검하고 적절한 가드레일을 제안합니다. 애플리케이션 배포 후에도 프롬프트 인젝션, 서비스 거부 공격, 민감 데이터 유출 여부를 실시간으로 감시합니다.

네트워크 계층에 심는 멀티 모델 가드레일

개별 AI 모델 제조사가 자체 제공하는 안전장치는 모델마다 기준이 달라, 여러 모델을 혼용하는 기업 입장에서는 일관된 정책을 유지하기 어렵습니다. Cisco는 전 세계에 깔린 자사 네트워크 장비와 집행 지점을 활용해 이 문제를 풀겠다는 전략입니다.

AI Defense는 Cisco Security Cloud 플랫폼에 내장되며, 보안 조직인 Cisco Talos의 위협 인텔리전스를 바탕으로 머신러닝 탐지 엔진을 지속 최적화합니다. 기존 Splunk 고객은 전체 에코시스템의 맥락이 포함된 상세 경보를 바로 연동해 받아볼 수 있습니다. Cisco는 MITRE, OWASP, NIST 등의 AI 보안 표준 개발에도 참여하고 있습니다.

World Wide Technology의 AI 및 사이버 혁신 총괄 Kent Noyes는 전통적인 사이버 보안 솔루션이 다루지 못하는 위험에 맞서 기업의 AI 자산 가시성을 확보해 주는 중요한 진전이라고 평가했습니다.

왜 중요한가

기업 CISO와 보안 책임자에게 가장 큰 가치는 업무 효율을 위해 AI를 허용하면서도 데이터 유출 사고를 막을 수 있는 현실적인 통제권을 준다는 점입니다. 이미 Cisco 인프라나 Splunk를 운용 중인 기업이라면, 3월 출시 직후 사내에서 임의로 쓰이는 섀도우 AI 현황을 파악하는 용도만으로도 도입을 검토해 볼 만합니다.

산업 측면에서는 AI 보안의 주도권 경쟁이 개별 모델 내부에서 네트워크 인프라 계층으로 확장되고 있음을 보여줍니다. 프론티어 모델 개발사들이 제아무리 강력한 정렬 기술을 적용해도, 기업 내부 트래픽 전체를 조망하는 것은 불가능하기 때문입니다.

우리는 Cisco가 자신이 가장 잘하는 네트워크 병목 지점에 검문소를 세운 점은 매우 영리한 전략이라고 봅니다. 다만 날로 교묘해지는 프롬프트 인젝션과 탈옥 시도를 네트워크 트래픽 분석 수준에서 오탐 없이 얼마나 정밀하게 걸러낼 수 있을지는 실제 출시 후 성능 검증이 필요한 과제입니다.