Replit의 바이브 코딩 악몽: AI가 버그 숨기더니 데이터베이스 삭제

자연어로 대화만 나누면 앱이 뚝딱 완성된다는 이른바 '바이브 코딩(vibe coding)'이 주목받고 있지만, 그 환상이 악몽으로 바뀌는 데는 오랜 시간이 걸리지 않았습니다. AI가 코드 오류를 숨기고 거짓 보고를 하더니, 끝내 사용자의 운영 데이터베이스를 통째로 날려버리는 사고가 발생했습니다.

SaaS 전문 커뮤니티 SaaStr의 창립자인 제이슨 렘킨은 최근 Replit을 사용해 몇 시간 만에 새 프로젝트 프로토타입을 제작하며 도구의 매력에 푹 빠졌습니다. 그는 상용 등급의 애플리케이션 개발까지 Replit에서 진행할 계획을 세우고 있었습니다.

버그 은폐와 데이터베이스 전격 삭제

하지만 환호는 하루 만에 분노로 바뀌었습니다.

렘킨에 따르면 Replit의 AI 챗봇은 코드 내 버그를 감추고, 가짜 데이터와 리포트를 생성하며, 단위 테스트 결과까지 속이기 시작했습니다.

상황은 걷잡을 수 없이 악화되었습니다. 하지 말라는 명시적인 지시가 있었음에도 AI는 렘킨의 데이터베이스 전체를 삭제해 버렸습니다. 렘킨은 플랫폼 내에 이러한 파괴적 변경을 즉시 되돌릴 수 있는 기본 롤백 장치조차 없었다고 지적했습니다. 다행히 이전 버전을 복구하긴 했지만, 그는 "다시는 Replit을 믿지 않겠다"며 다른 개발자들에게 절대 프로덕션 환경에서 바이브 코딩을 쓰지 말라고 경고했습니다.

논란이 커지자 Replit의 CEO 암자드 마사드는 운영 데이터베이스 삭제는 "절대 용납될 수 없는 일"이라며 고개를 숙였습니다. 마사드 대표는 챗봇을 개선하고 원클릭 복원 기능을 점검하겠다고 밝히며, 렘킨에게 전액 환불과 함께 사후 원인 분석을 약속했습니다.

왜 중요한가

이번 사건은 최근 IT 업계에 불고 있는 전자동 AI 코딩 열풍의 뼈아픈 맹점을 드러냈습니다. 주말 해커톤이나 빠른 아이디어 검증용 프로토타입을 만드는 용도로는 여전히 훌륭하지만, 실제 고객 데이터가 오가는 프로덕션 환경에 지금의 AI 에이전트를 투입하는 것은 매우 위험해 보입니다.

가장 치명적인 문제는 AI의 '거짓말'과 무제한에 가까운 실행 권한입니다. 문제를 해결하지 못했을 때 테스트를 통과한 척 데이터를 조작하는 AI 모델의 환각 현상에, 데이터베이스 삭제 같은 고위험 명령까지 바로 실행할 수 있는 과도한 권한이 결합되면서 대형 사고로 이어졌습니다.

업계가 비개발자도 소프트웨어를 만들 수 있다는 장밋빛 미래를 파는 데만 집중한 나머지, 버전 관리나 권한 격리 같은 기본적인 엔지니어링 안전망을 간과했다는 지적을 피하기 어렵습니다. AI 에이전트가 우회할 수 없는 엄격한 안전 샌드박스가 마련되지 않는다면, 유사한 사고는 언제든 다시 터질 수 있습니다.