커서, AI 고객센터 봇의 '가짜 정책' 날조로 구독 취소 잇따르자 사과

개발자들에게 가장 당혹스러운 순간 중 하나는 애용하던 개발 도구가 납득하기 힘든 제약을 갑자기 도입할 때입니다. 최근 AI 기반 코드 에디터로 인기를 끌고 있는 커서(Cursor)에서 바로 이런 황당한 소동이 벌어졌습니다.

여러 컴퓨터를 오가며 작업하던 중 로그아웃이 반복되자 고객 지원에 문의한 사용자가 정책 변경이라는 답변을 받고 분통을 터뜨리며 구독을 취소했습니다. 하지만 조사 결과 그런 정책은 존재하지도 않았으며, 고객 지원 봇으로 투입된 AI가 지어낸 거짓말로 드러났습니다.

당당한 답변에 속아 집단 구독 취소까지

사건은 월요일에 시작되었습니다. 레딧 이용자인 BrokenToasterOven은 데스크톱, 노트북, 원격 개발 머신을 오가며 작업하던 중 한 기기에서 로그인하면 다른 기기의 세션이 즉시 끊어지는 현상을 발견했습니다.

개발자에게 다중 기기 작업 환경은 기본 중의 기본입니다. 심각한 사용성 퇴보라고 느낀 사용자는 곧바로 커서 고객 지원팀에 문의 메일을 보냈습니다.

샘(Sam)이라는 이름의 지원 담당자는 핵심 보안 기능으로서 커서는 구독당 한 대의 기기에서만 작동하도록 설계되었다고 답장을 보냈습니다. 답변은 매우 공식적이고 확신에 차 있었기에, 사용자는 상대가 AI일 것이라고는 전혀 의심하지 못했습니다.

이 답변 내용이 레딧에 공개되자 개발자 커뮤니티는 발칵 뒤집혔습니다. 많은 이들이 필수적인 작업 흐름을 망치는 처사라며 반발했고, 원글 작성자는 즉시 구독을 취소했으며 회사 차원에서도 커서를 완전히 퇴출하고 있다고 밝혔습니다. 다른 사용자들 역시 구독 취소를 선언하며 소동이 커지자 게시판 관리자가 글을 잠그고 삭제하기에 이르렀습니다.

알고 보니 AI의 환각이 부른 촌극

하지만 반전이 있었습니다. 커서에는 기기 대수를 한 대로 제한하는 보안 정책 따위는 전혀 없었습니다. 고객을 응대한 샘은 사람이 아닌 AI 챗봇이었던 것입니다.

AI 모델은 불확실한 상황에서 모른다고 인정하기보다 그럴듯하고 확신에 찬 답변을 지어내는 환각 현상을 자주 보입니다. 이번 사건에서는 지원 봇이 존재하지도 않는 회사 규정을 임의로 만들어내 공식 답변처럼 내보낸 셈입니다.

결국 잘못된 안내로 인해 사용자들의 해지 위협과 항의가 빗발치자 커서 측은 공식적으로 사과해야 했습니다.

왜 중요한가

사용자 입장에서는 고객 지원 채널에서 터무니없는 정책이나 제한을 안내받더라도 곧바로 믿지 말아야 한다는 교훈을 남겼습니다. 화면 너머의 상담원이 검증되지 않은 AI일 가능성을 항상 염두에 두어야 합니다.

업계 관점에서는 비용 절감을 위해 고객 응대 최전선에 대규모 언어 모델을 섣불리 투입할 때 생기는 위험을 적나라하게 보여줍니다. 아무런 인간 검수나 엄격한 가드레일 없이 배치된 AI가 기업의 공식 목소리를 대변할 경우, 단순한 해프닝을 넘어 실질적인 매출 감소와 신뢰 훼손으로 직결될 수 있습니다.

우리가 보기에 이번 실수는 AI 도구를 주력으로 만드는 커서에게 특히 뼈아픈 실책입니다. 모델의 환각 특성을 누구보다 잘 이해하고 있어야 할 기업이 기본 지식 기반 검증조차 제대로 갖추지 않은 채 고객 응대를 맡겼다는 점은 납득하기 어렵습니다.

결국 정책 관련 안내에 대해 엄격한 사실 확인 장치나 인간 개입 체계를 두지 않는다면, AI가 회사의 규정을 제멋대로 지어내 고객을 쫓아내는 어처구니없는 참사는 앞으로도 반복될 수밖에 없어 보입니다.