오픈AI, 차기 모델 '아스트라' 사이버 보안 위험 '심각' 단계 도달 가능성 경고

사람의 개입 없이도 방어가 견고한 실제 시스템에서 제로데이 취약점을 스스로 찾아내고 공격 코드를 짜는 AI가 눈앞에 다가왔습니다.

OpenAI는 출시를 준비 중인 차기 모델 'Astra'의 내부 평가 결과, 자사의 안전 관리 지침인 준비도 프레임워크상 사이버 보안 부문에서 '심각(Critical)' 임계치에 도달했을 가능성을 배제할 수 없다고 공식 발표했습니다.

'심각' 단계가 의미하는 위험 수준

OpenAI가 2023년 12월에 처음 제정한 준비도 프레임워크는 모델의 화학, 생물학, 사이버 보안 및 자율적 개선 능력을 감시하는 기준입니다.

여기서 사이버 보안 '심각' 단계는 인간의 개입 없이 실제 중요 시스템에서 치명적인 제로데이 취약점을 찾아내 활용할 수 있거나, 단순한 고수준 목표만 주어져도 복잡한 표적을 대상으로 새로운 엔드투엔드 공격 전략을 세워 실행할 수 있는 상태를 뜻합니다.

이전 모델인 GPT-5.6-Sol만 해도 사이버 역량 평가는 '높음(High)' 수준이었습니다. 하지만 Astra는 에이전트 기반 코딩과 보안 역량에서 큰 도약을 보였습니다. OpenAI는 Astra가 아직 출시되지 않은 모델이며, 과거 Hugging Face 관련 취약점 악용 사건과는 무관하다고 선을 그었습니다.

사내 작업 일시 중단과 '사고 과정' 실시간 감시

위험 신호가 감지되자 OpenAI는 즉각 내부 통제 수위를 높였습니다.

우선 강화된 보안 기준을 아직 충족하지 못한 사내 Astra 관련 활동을 전면 일시 중단했습니다.

이후의 개발 및 테스트는 네트워크와 도구 접근이 차단된 격리 환경, 샌드박스 실행, 그리고 한층 강화된 모델 가중치 암호화 보호 조치 아래에서만 진행됩니다.

특히 주목할 부분은 감시 체계입니다. OpenAI는 훈련과 평가를 포함한 Astra의 모든 에이전트 작업에 걸쳐 모델의 '사고 과정(Chain of Thought)'을 실시간 모니터링하기로 했습니다. 위험 행동이나 정렬 이탈 조짐이 보이면 즉각 대응하여 작업을 강제 중단시키는 방식입니다.

아울러 관련 정부 기관 및 주요 AI 안전 기관들과 협력해 해당 모델의 역량을 공동 검증할 예정입니다.

왜 중요한가

일반 기업이나 개발자 입장에서 이 수준의 모델을 당장 직접 써볼 기회는 없을 것으로 보입니다. 완제품이 아닌 방어용 연구 형태로 엄격히 제한될 가능성이 크기 때문입니다. 다만 보안 담당자들에게는 악의적 공격자가 이런 수준의 도구를 쥐기 전에 방어 체계를 전면 재검토해야 한다는 경고등이 켜진 셈입니다.

산업 전반으로 보면 AI 경쟁의 중심이 단순한 벤치마크 점수 경쟁에서 실제 위험 통제 능력으로 이동하고 있습니다. Anthropic이나 Google 같은 경쟁사들 역시 유사한 공격 역량 발생 시 어떤 기준으로 모델을 멈춰 세울 것인지 투명하게 증명해야 하는 압박을 받게 될 것입니다.

우리는 OpenAI가 위험 가능성을 선제적으로 투명하게 공개하고 사내 작업까지 멈춰 세운 조치는 책임감 있는 판단이라고 봅니다. 사고 과정을 직접 감시해 위험 행동을 끊어내는 통제 방식도 현실적입니다.

하지만 시스템이 뚫리지 않고 감시망을 우회하지 못할 것이라는 보장이 영원할 수는 없습니다. 제로데이 취약점을 자율적으로 발굴하는 모델은 사실상 고위험 사이버 무기에 가까운 만큼, 모델 가중치를 어떻게 영구적으로 격리할 것인가가 향후 가장 치명적인 숙제가 될 것으로 보입니다.