마이크로소프트 AI 연구팀, 설정 실수로 사내 기밀 데이터 38TB 노출

오픈소스 커뮤니티에 AI 모델을 공개하는 일은 흔하지만, 다운로드 링크 하나 때문에 회사 기밀이 통째로 털릴 뻔한 일이 발생했습니다.

클라우드 보안 스타트업 위즈(Wiz)에 따르면, 마이크로소프트의 AI 연구팀이 깃허브(GitHub)에 오픈소스 이미지 인식 모델을 배포하는 과정에서 무려 38TB 분량의 내부 민감 데이터를 외부에 유출했습니다.

유출된 데이터에는 마이크로소프트 직원 2명의 개인 PC 백업 전체, 각종 내부 서비스 비밀번호와 개인 키, 그리고 수백 명의 직원이 주고받은 3만 건 이상의 마이크로소프트 팀즈(Teams) 사내 대화 기록까지 포함되어 있었습니다.

3년 동안 방치된 '모든 권한' 링크

원인은 링크 설정 실수였습니다. 연구팀은 깃허브에서 모델을 내려받을 수 있도록 애저 스토리지(Azure Storage) URL을 첨부했습니다. 이 링크에는 데이터 접근을 돕는 SAS(Shared Access Signature) 토큰이 포함되어 있었습니다.

문제는 특정 파일만 읽을 수 있는 권한을 줬어야 할 토큰에 스토리지 계정 전체에 대한 '모든 권한(Full Control)'이 부여되었다는 점입니다.

이 링크만 있으면 누구나 내부 데이터를 들여다볼 수 있을 뿐 아니라, 파일을 삭제하거나 악성코드를 심어 넣는 등 데이터를 마음대로 조작할 수 있었습니다.

더 심각한 것은 위즈의 조사 결과, 이 잘못 설정된 링크가 2020년부터 무려 3년 동안이나 깃허브에 그대로 방치되어 있었다는 사실입니다.

긴급 진화 나선 MS와 깃허브 스캐닝 확대

위즈는 지난 6월 22일 이 사실을 마이크로소프트에 알렸고, 마이크로소프트는 이틀 뒤인 6월 24일 문제의 토큰을 즉시 취소했습니다. 이어 8월 16일 자체 조사까지 모두 마무리했습니다.

마이크로소프트 보안대응센터는 공식 블로그를 통해 고객 데이터는 일절 유출되지 않았으며, 다른 내부 서비스도 위협받지 않았다고 밝혔습니다.

재발 방지를 위해 마이크로소프트는 깃허브의 비밀값 탐지(Secret Scanning) 서비스를 확대했습니다. 이제 오픈소스 코드에 과도한 권한이나 지나치게 긴 만료 기간이 설정된 SAS 토큰이 포함되어 있으면 자동으로 감지해 차단합니다.

왜 중요한가

이번 사고는 폭발적으로 성장하는 AI 연구 현장에서 데이터 보안 관리가 얼마나 취약한지 단적으로 보여줍니다.

데이터 과학자들과 엔지니어들은 새로운 AI 솔루션을 빠르게 내놓기 위해 수십 기가바이트에서 테라바이트에 달하는 데이터를 일상적으로 다룹니다. 위즈의 CTO가 언급했듯, 대규모 데이터를 오픈소스 환경에서 외부와 공유할 때 권한 관리가 허술해지기 십상입니다.

우리는 사내 메신저 유출보다 오픈소스 공급망 공격의 잠재적 위험이 훨씬 컸다고 봅니다. 3년 동안 쓰기 권한이 열려 있었다는 것은, 누군가 악의를 품고 정상적인 오픈소스 AI 모델 파일을 악성코드가 심긴 파일로 바꿔치기할 수 있었다는 뜻이기 때문입니다.

마이크로소프트가 깃허브 탐지 기능을 강화한 것은 실용적인 해결책으로 보입니다. 하지만 AI 개발을 진행 중인 기업과 개발자라면, 모델 배포 전 스토리지 버킷의 권한이 최소 권한 원칙에 맞게 분리되어 있는지 점검하는 것이 급선무입니다.