ChatGPT가 지어낸 거짓말에, 진짜로 기능 개발해 버린 악보 플랫폼

만약 여러분이 운영하는 서비스의 오류 로그가 갑자기 폭증했는데, 알고 보니 ChatGPT가 존재하지도 않는 기능을 실제 있는 것처럼 사용자들에게 거짓 안내했기 때문이라면 어떻게 대처해야 할까?

악보 플랫폼 사운드슬라이스(Soundslice)의 공동 창업자 에이드리언 홀로바티(Adrian Holovaty)가 바로 이 황당한 일을 겪었다. 몇 달 전부터 회사 시스템 오류 로그에 평소와 다른 기이한 업로드가 이어졌다. 일반적인 악보 사진이나 PDF 대신, 기타 아스키(ASCII) 탭 악보가 적힌 ChatGPT 대화 캡처 화면들이 쏟아져 들어온 것이다.

챗봇의 거짓말에 몇 주 동안 골머리를 앓다

사운드슬라이스는 종이 악보나 PDF를 디지털로 변환하고 실제 연주 오디오 및 영상과 실시간으로 동기화해 주는 서비스다. 연주 속도를 늦추거나 어려운 구간을 반복 연습할 수 있어 음악인들에게 인기가 높다.

하지만 하이픈과 숫자로 줄과 프렛 위치만 대충 표기한 텍스트 기반 아스키 탭 악보는 애초에 사운드슬라이스 분석 엔진이 지원하도록 설계된 형식이 아니었다.

수주일 동안 영문을 몰라 답답해하던 홀로바티는 직접 ChatGPT를 켜서 테스트해 보고 나서야 원인을 알게 됐다. ChatGPT가 사용자들에게 사운드슬라이스에 회원가입을 한 뒤 아스키 탭을 업로드하면 오디오로 재생해 준다며, 있지도 않은 기능을 마치 핵심 기능인 양 자신만만하게 추천하고 있었던 것이다.

홀로바티는 블로그를 통해 AI가 명백한 거짓말로 이용자들에게 헛된 기대를 심어주고 회사 평판을 깎아내리고 있었다고 털어놓았다. 2022년 11월 ChatGPT가 공개되고 사람들이 이를 검색 포털처럼 쓰기 시작한 이래 AI 업계의 골칫거리로 꼽혀 온 이른바 환각(Hallucination) 현상이었다.

AI의 헛소리를 진짜 기능으로 구현하다

대다수 기업이라면 공지사항에 해명 글을 올리거나 오픈AI에 항의하는 선에서 끝냈을 일이다. 하지만 사운드슬라이스는 완전히 다른 결정을 내렸다. 기왕 이렇게 소문이 난 김에 진짜로 그 기능을 만들어 버리기로 한 것이다.

월요일, 사운드슬라이스는 아스키 기타 탭 악보 가져오기 기능을 공식 배포했다고 밝혔다. 기업이 AI 모델의 허위 답변에 직접 대응해 실제 제품 기능을 개발해 내놓은 첫 번째 사례로 평가받는다.

이제 ChatGPT의 엉터리 답변에 속아 사이트를 찾았던 기타 연주자들은 실제로 인터넷에 돌아다니는 텍스트 악보를 그대로 붙여넣어 재생 및 연습 기능을 활용할 수 있게 됐다.

왜 중요한가

기타 연주자와 음악인들에게는 생각지도 못한 실질적 혜택이다. 지난 수십 년 동안 웹 커뮤니티에 방치되어 있던 수많은 텍스트 기반 희귀 탭 악보를 별다른 수작업 없이 인터랙티브 연습 도구로 변환할 수 있게 됐기 때문이다.

산업적 관점에서는 AI 환각이 역설적으로 완벽한 잠재 수요 발굴 도구가 될 수 있음을 보여준 흥미로운 사건이다. ChatGPT가 이 기능을 멋대로 지어낸 근본적인 이유는 수많은 사용자가 평소 AI에게 텍스트 악보를 소리로 듣고 싶다는 요구를 집요하게 던졌기 때문으로 풀이된다.

우리는 사운드슬라이스의 이번 대처가 매우 영리했다고 본다. 오해로 인한 사용자 이탈과 악평을 방치하는 대신, AI가 몰고 온 잠재 고객의 발걸음을 그대로 흡수해 유쾌한 마케팅 자산으로 바꿔치기했기 때문이다.

하지만 이를 모든 IT 기업이 따라 할 수 있는 전략으로 보기는 어렵다. 만약 AI가 약속한 기능이 막대한 인프라 비용을 요구하거나 기술적으로 불가능에 가까운 영역이라면, 중소 개발팀은 AI의 환각 때문에 감당 못 할 CS와 평판 훼손에 시달리는 역풍을 맞을 위험이 크다.