OpenAI, 사이버보안 지원 성과 공개…연구자용 기업용 계정 지원 확대

해커들이 악성코드를 작성하고 피싱 공격을 고도화하는 데 거대언어모델(LLM)을 쓴다는 경고가 이어지는 가운데, 방어자들은 AI를 어떻게 활용하고 있을까요?

OpenAI가 2023년 출범한 '사이버보안 지원 프로그램(Cybersecurity Grant Program)'의 지난 1년간 성과를 발표했습니다. 방어자들에게 최신 AI 역량을 제공하고 학계와 산업계의 보안 연구를 지원하기 위해 마련된 이 프로그램에는 지금까지 600건이 넘는 지원서가 접수되었습니다.

모델 자체를 지키는 보안 연구

이번에 공개된 주요 프로젝트 중 상당수는 LLM 자체를 향한 공격을 방어하는 연구에 초점이 맞춰져 있습니다.

UC 버클리의 데이비드 와그너(David Wagner) 교수 연구실은 LLM 보안의 가장 까다로운 난제인 프롬프트 인젝션 공격을 방어하는 기술을 연구하고 있습니다.

다트머스 대학교의 아담 브루어(Adam Breuer) 교수 연구팀은 모델과 상호작용하며 비공개 학습 데이터를 복원하려는 공격을 막는 기술을 개발 중입니다. 기존 방어 기법은 모델의 정확도나 학습 속도를 희생해야 했지만, 이들은 성능 저하 없이 프라이버시를 지키는 방안을 모색하고 있습니다.

프랑스 보안팀 미스릴 시큐리티(Mithril Security)는 TPM(신뢰 플랫폼 모듈) 기반의 보안 엔클레이브를 활용해 GPU에서 모델을 안전하게 구동하는 오픈소스 기술을 선보였습니다. 클라우드 관리자조차 사용자의 추론 데이터를 볼 수 없도록 보호하는 구조로, GitHub에 백서와 코드가 공개되었습니다.

취약점 분석부터 자율 방어 에이전트까지

모델 보호를 넘어 실제 네트워크와 코드를 지키는 연구도 활발합니다.

보스턴 대학교 연구팀은 해커가 악용하기 전에 코드 내 취약점을 찾아내고 자동으로 수정하는 LLM 기술을 연구하고 있습니다. 스타트업 코가드(Coguard)는 보안 사고의 단골 원인인 복잡한 네트워크 및 클러스터 설정 오류를 구식 규칙 기반 대신 AI로 자동 감지하는 솔루션을 개발했습니다.

UC 산타크루즈 연구진은 네트워크 침입에 스스로 대응하는 '자율 사이버 방어 에이전트' 설계에 파운데이션 모델을 적용하고 있으며, MIT CSAIL 팀은 CTF(해킹 방어 대회)와 레드팀 훈련에서 AI 에이전트가 계획-실행-보고 루프를 돌며 결정을 내리는 자동화 기술을 실험 중입니다.

현업 보안 담당자들이 ChatGPT를 가장 많이 쓰는 업무는 난해한 로그나 전문 용어를 쉬운 말로 풀기, 분석용 스크립트 작성, 로그 파서 제작, 긴급 보고서 요약 등입니다. OpenAI는 보안 실무자들에게 무료 ChatGPT Plus를 지원해 온 데 이어, 우간다 연구·교육 네트워크(RENU)를 시작으로 ChatGPT Team 및 Enterprise 계정 지원으로 대상을 확대할 계획입니다.

왜 중요한가

우리는 OpenAI가 이번에 공개한 연구들이 매우 현실적이라는 점에 주목합니다. AI 보안이라고 하면 흔히 완전 자율화된 보안 관제 센터를 떠올리기 쉽지만, 실제 보안 담당자들의 가장 큰 고통은 끝없이 쏟아지는 로그와 복잡한 환경 설정 오류를 검토하는 데서 나오기 때문입니다.

일반 개발자나 사내 보안 담당자라면 로그 파싱이나 기초적인 코드 분석에 LLM을 지금 바로 도입해 볼 만합니다. 복잡한 시스템 구축 없이도 업무 효율을 눈에 띄게 끌어올릴 수 있는 영역입니다.

하지만 양날의 검이라는 문제는 여전합니다. 방어자가 코드 취약점을 빠르게 찾아낼 수 있다면, 공격자 역시 동일한 모델을 이용해 익스플로잇을 신속하게 만들어낼 수 있습니다. 또한 방어 체계에 자율 에이전트 도입이 늘어날수록, 프롬프트 인젝션 같은 취약점이 완전히 해결되지 않는 한 방어 도구 자체가 해킹의 통로가 될 수 있다는 잠재적 위험도 존재합니다.