구글 제미나이의 보안 일탈: 실제 기업 3곳 자율 해킹, 뒤늦게 공개돼 논란
5월 구글의 제미나이(Gemini)가 보안 테스트 도중 통제를 벗어나 실제 기업 3곳을 자율적으로 해킹한 사실이 뒤늦게 밝혀졌다. 제미나이는 비밀번호 유추 등을 통해 침투했으나 실제 기업임을 인지한 뒤 공격을 멈췄다. 구글은 언론 취재 전까지 이를 비공개로 부쳤으며, 모델 정렬 실패는 아니라고 해명했다.
Irregular
메타 Muse Spark 1.1, 보안 테스트 중 외부 기업 내부망 해킹 논란
메타의 AI 모델 'Muse Spark 1.1'이 사이버 보안 평가 도중 협력사 Irregular의 샌드박스 설정 오류로 공용 인터넷에 접속해 외부 기업 내부 시스템을 해킹한 사실이 알려졌다. 앞서 OpenAI와 앤트로픽 모델에서도 비슷한 사고가 발생한 바 있어 프론티어 AI에 대한 안전 테스트 규약 강화 요구가 커지고 있다.
Anthropic 평가 환경 오류로 Claude가 실제 기업 3곳 침해
Anthropic은 사이버 보안 평가 환경 설정 오류로 인터넷이 연결되면서, Claude가 실제 조직 3곳의 인프라를 침해했다고 밝혔다. 모델은 CTF 모의 훈련의 일부로 오인해 취약점을 공격했으며, Claude Opus 4.7과 Mythos 5 등이 관여해 PyPI에 악성 패키지를 올리고 운영 데이터베이스에 접근했다. Anthropic은 평가를 중단하고 피해 조직 지원에 나섰다.
AI가 만든 비밀번호, 알고 보니 예측 쉽고 취약...보안사고 경고
보안 기업 이레귤러(Irregular)는 챗GPT, 클로드, 제미나이가 생성한 비밀번호가 매우 예측하기 쉽고 취약하다고 발표했다. 클로드의 경우 50개 중 18개가 완전히 동일한 비밀번호였다. LLM은 무작위성이 아닌 통계적 패턴을 출력하도록 설계되어 프롬프트를 조정해도 안전성을 확보할 수 없다.