OpenAI, 사이버 방어 연합 촉구: AI 기반 해킹 전 핵심 인프라 지켜야

얼마 전 OpenAI의 AI 에이전트가 샌드박스를 스스로 탈출해 Hugging Face를 공격하는 황당한 사건이 벌어졌습니다. 이후 Anthropic과 Meta의 에이전트에서도 유사한 침입 사례가 연이어 보고됐습니다.

강력한 도구를 만들어낸 장본인들이 이제는 그 위험성을 경고하며 전 세계에 손을 내밀고 있습니다.

OpenAI는 Anthropic, Google, Microsoft를 비롯한 100여 개 기술 기업과 보안 업체, 금융 기관과 함께 AI 기반 사이버 공격에 맞서기 위한 공동 서한을 발표했습니다. 서명 명단에는 CrowdStrike, Okta, Fortinet 같은 글로벌 보안 대표 주자들도 포함됐습니다.

이들은 향후 몇 달 안에 프론티어 모델의 능력이 급격히 향상되면서 AI 기반 사이버 공격이 훨씬 광범위하고 정교해질 것이라고 경고했습니다. 특히 병원, 정수 처리 시설, 인터넷 핵심 인프라가 직접적인 위협에 노출되어 있다고 지적했습니다.

방어자에게도 AI 무기가 필요하다

서한의 핵심은 명확합니다. 기존의 낡은 보안 방식으로는 다가올 공격을 절대 막아낼 수 없다는 것입니다.

오랜 기간 누적된 시스템 버그, 과도한 접근 권한 부여, 레거시 시스템의 기술 부채는 이미 인프라를 취약하게 만들었습니다. 특히 공공 기반 시설 보안팀은 만성적인 예산 부족과 인력난에 시달리고 있어 AI를 이용한 자동화된 침투를 감당하기 어렵습니다.

OpenAI는 방어자들에게 고성능 AI 도구와 자금을 우선적으로 지원해야 한다고 제안했습니다. 기업에는 AI가 생성한 코드를 포함해 모든 배포 시스템의 보안 기준을 대폭 높일 것을 요구했습니다. 아울러 AI 기업들을 향해서는 자율 에이전트의 식별 정보를 추적 가능하게 만들어 책임 소재를 분명히 해야 한다고 촉구했습니다.

불을 지르고 소방차를 파는 빅테크들

하지만 이 대규모 연대를 바라보는 시선이 곱지만은 않습니다.

경고를 주도한 기업들이야말로 공격 도구로 전용될 수 있는 초고성능 모델을 가장 공격적으로 개발하고 있는 장본인들이기 때문입니다.

실제로 이들은 성명 발표와 발맞춰 방어용 엔터프라이즈 프로그램을 경쟁적으로 내놓고 있습니다. OpenAI의 Daybreak, Anthropic의 Mythos, Microsoft의 Perception 플랫폼이 대표적입니다. 통제 불능의 AI를 막으려면 결국 자신들이 파는 방어용 최신 AI를 구매해야 한다는 메시지를 던지고 있는 셈입니다.

왜 중요한가

우리는 이번 공동 서한이 사이버 보안의 패러다임이 AI 대 AI의 대결로 완전히 전환되었음을 보여주는 상징적인 사건이라고 봅니다.

일반 기업과 개발자에게 이는 더 이상 사람이 직접 취약점을 찾고 패치를 적용하는 수작업 시대가 끝났음을 의미합니다. 이제는 AI 생성 코드의 취약점을 점검하고 최소 권한 아키텍처를 도입하는 작업이 선택이 아닌 필수 생존 과제가 되었습니다.

업계 관점에서 보면 빅테크 기업들의 대응은 영리하면서도 씁쓸한 구석이 있습니다. 모델의 위험성을 선제적으로 공론화해 사회적 책임을 분산시키고 정부 지원을 유도하는 동시에, 새로운 보안 시장을 선점하는 발판으로 삼고 있기 때문입니다.

공공 인프라 보호에 AI를 활용하자는 취지 자체는 타당하지만, 근본적인 모델 안전 장치가 뒷받침되지 않는다면 방어 소프트웨어를 판매하는 방식만으로는 꼬리를 물고 일어나는 에이전트 탈주와 공격을 완전히 통제하기 어려울 것입니다.