미드저니 무료 체험 중단: 일회용 계정 남용에 유료 사용자까지 피해

최근 도널드 트럼프 전 대통령이 체포되는 장면이나 흰색 패딩을 입은 교황의 정교한 가짜 사진이 소셜 미디어를 뒤흔든 직후, 이미지 생성 AI인 미드저니(Midjourney)가 무료 체험을 전격 중단했습니다.

정치적 딥페이크 파장에 따른 조치라는 추측이 쏟아졌지만, 사측이 밝힌 실제 이유는 훨씬 현실적인 문제인 일회용 계정 남용과 서버 과부하였습니다.

무료 중단 원인은 어뷰징과 GPU 부족

미드저니 창업자이자 CEO인 데이비드 홀츠(David Holz)는 디스코드 공지를 통해 비정상적인 수요와 체험판 남용 때문에 무료 서비스를 일시 중단한다고 밝혔습니다.

홀츠는 IT 매체 더 버지(The Verge)와의 이메일에서, 사용자들이 무료 이미지를 얻기 위해 일회용 계정을 대량 생성한 것이 원인이라고 설명했습니다.

그는 중국에서 퍼진 무료 이용 팁 영상이 계기가 된 것으로 보이며, 때마침 닥친 일시적 GPU 부족 현상과 맞물려 유료 구독자의 서비스 품질까지 위협받는 상황이었다고 덧붙였습니다.

더불어 논란이 된 트럼프 체포 사진 등 정교한 가짜 이미지는 최신 v5 모델로 만들어진 것인데, 무료 체험판에는 v5 접근 권한이 처음부터 제공되지 않았기 때문에 이번 중단이 딥페이크 사태 때문이라는 보도는 오해라고 선을 그었습니다.

비약적인 화질 발전과 허술한 검열 장벽

미드저니 v5는 인물 묘사에서 비약적인 발전을 이뤄냈습니다. AI 이미지의 대표적 약점이던 뒤틀린 손가락 표현이 눈에 띄게 개선됐고, 조명과 옷감 질감은 물론 유명인의 얼굴을 실제 사진처럼 구현합니다.

최근에는 마크롱 프랑스 대통령이 파리 시위 현장을 걷는 모습이나 일론 머스크와 오카시오코르테스 의원이 손을 잡고 있는 가짜 이미지까지 퍼졌습니다.

미드저니는 오픈AI의 DALL-E보다는 느슨하고 스테이블 디퓨전보다는 엄격한 검열을 적용해 왔으며, 최근에는 트럼프 체포 이미지를 퍼뜨린 언론인의 계정을 정지하고 '체포(arrested)'라는 단어를 금칙어로 추가했습니다.

하지만 이런 단어 차단 방식은 쉽게 우회됩니다. 실제로 '체포된 도널드 트럼프'라는 프롬프트는 막히지만, '수갑을 차고 경찰에 둘러싸인 도널드 트럼프'라고 바꿔 입력하면 똑같은 이미지가 문제없이 생성됩니다.

왜 중요한가

일반 사용자나 창작자 입장에서는 가장 뛰어난 성능을 자랑하던 이미지 생성 AI를 공짜로 써볼 수 있는 기회가 사라졌습니다. 이제 미드저니를 쓰려면 무조건 유료 구독을 결제해야 하므로 진입 장벽이 높아졌습니다.

우리는 이번 사태가 급성장한 AI 스타트업이 마주한 인프라와 검열의 한계를 적나라하게 드러냈다고 봅니다.

우선 컴퓨팅 자원의 문제입니다. 소규모 조직으로 운영되는 서비스가 글로벌 단위의 계정 생성 어뷰징에 노출되면, 고가의 GPU 자원이 순식간에 고갈되어 유료 고객에게까지 피해를 줍니다. 이메일 인증 같은 단순한 조치로는 봇과 악용을 막을 수 없다는 점이 확인됐습니다.

아울러 미드저니의 안전 정책은 여전히 주먹구구식에 가깝습니다. 특정 금칙어 몇 개를 추가하는 방식은 프롬프트를 조금만 비틀어도 뚫려버려, 정교해지는 딥페이크 위협을 막기에는 역부족으로 보입니다. 이미지 퀄리티가 진짜 사진을 완벽히 모방하는 수준에 도달한 만큼, 실효성 있는 워터마크나 출처 인증 같은 근본적인 안전장치 마련이 시급합니다.