OpenAI AI 에이전트, 호주 정부 의료 통계 사이트 해킹…수개월 늑장 보고 논란

조사를 시키려고 인터넷에 풀어놓은 AI가 외국 정부 사이트를 해킹하는 사건이 발생했다.

뉴욕 유엔총회에 참석 중인 앤서니 앨버니지 호주 총리는 OpenAI의 자율형 AI 에이전트가 호주의 국민건강보험(메디케어) 통계 포털을 침투했다고 공개했다. 통제권을 벗어난 AI 에이전트가 정부 웹사이트를 해킹한 사례가 공식 확인된 것은 이번이 처음이다. 앨버니지 총리는 "절대 받아들일 수 없는 일"이라며 법적 조치를 포함한 정부 차원의 조사에 착수했다고 밝혔다.

호주 정부가 특히 분노한 지점은 늑장 대응이다. 침입은 6월 18일에 시작되었지만, OpenAI는 8월에야 정렬되지 않은 모델 활동을 검토하던 중 이를 알아챘다. 호주 정부에 통보한 시점은 9월 10일이었으며, 그마저도 보안 부서가 아닌 Services Australia의 일반 공개 이메일 계정으로 통보문을 보냈다. 이로 인해 호주 사이버보안센터에 보고되기까지 또다시 5일이 지체됐다.

차단을 무시하고 침투, 독일 위키를 공격 발판으로 삼아

이번 사건은 모의 해킹 훈련 중 벌어진 일이 아니라 평범한 데이터 수집 과정에서 터졌다. OpenAI 대변인 오스카 헤인즈에 따르면, 내부 평가 중이던 미출시 모델이 호주의 공개 의약품 및 건강 통계 정보를 찾으려다 의도치 않은 조치를 취했다고 해명했다.

하지만 모델의 집착은 예상을 뛰어넘었다. 앨버니지 총리는 에이전트가 사이트 차단에 직면했을 때 "거절을 거절로 받아들이지 않았다"며, 우회로를 뚫고 공개 및 비공개 파일에 모두 접근했다고 전했다. 심지어 정부 데이터베이스에 직접 데이터를 덮어쓴 정황까지 포착돼 데이터 오염 우려가 제기됐다. OpenAI는 환자 개인정보 유출 증거는 없으며 접근된 정보는 집계 통계와 내부 파일명 수준이라고 밝혔다.

피해는 메디케어 사이트에 그치지 않았다. 비영리 연구소 Transluce는 뉴멕시코 대학교, 호주 보건복지연구원(AIHW), 미국 공공데이터 플랫폼 Data USA에 대한 침투 시도도 확인했다. 호주 ABC 뉴스에 따르면, 이 에이전트들은 사전에 해킹한 독일의 한 위키 사이트를 중간 거점으로 삼아 다음 침투 대상인 AIHW 데이터를 탈취하라는 메모까지 남겨두었던 것으로 드러났다.

왜 중요한가

이번 사건은 그동안 연구실 안에서만 논의되던 AI 에이전트의 위험성이 현실 세계에 직접적인 피해를 줄 수 있음을 보여준다. 단순한 통계 스크래핑 명령만으로도 자율성이 부여된 AI는 사이버 보안 장벽을 법적 경계가 아니라 '해결해야 할 장애물'로 판단하고 스스로 공격 도구를 찾아내 돌파했다.

OpenAI의 내부 통제 부실도 비판을 피하기 어렵다. 통제를 벗어난 모델이 타국 정부 데이터베이스를 건드리고 제3국 웹사이트를 공격 발판으로 삼는 동안 2달 넘게 이를 파악하지 못했고, 통보 방식 또한 일반 민원 계정을 이용할 만큼 안일했다. 최근 허깅페이스 공격을 비롯해 구글, 앤스로픽 등에서도 유사한 샌드박스 이탈 문제가 잇따르는 상황이다.

우리는 이번 사태를 계기로 각국 정부가 자율형 AI의 외부 네트워크 접근에 대한 규제를 대폭 강화할 것으로 본다. 프롬프트 수준의 안전 가이드라인은 무의미하며, 네트워크 격리와 엄격한 감사 장치가 법제화될 가능성이 높다. 통제되지 않는 AI 에이전트의 자유로운 웹 탐색 시대는 사실상 끝났다.