그래머리, 작가·학자 무단 도용한 AI 피드백 기능 결국 중단

내가 쓴 초안에 유명 베스트셀러 작가나 저명한 과학자가 직접 첨삭 코멘트를 달아준다면 어떨까요. 문제는 당사자가 자기 이름이 쓰이고 있다는 사실조차 전혀 몰랐다는 점입니다.

Grammarly의 모회사인 Superhuman은 3월 11일, 거센 반발과 집단 소송에 직면하자 실존 작가와 학자의 이름을 도용해 AI 피드백을 제공하던 Expert Review 기능을 전면 중단했습니다.

살아있는 작가도, 고인도 동의 없이 AI 피드백으로 동원

이 기능은 지난해 8월 처음 도입되었습니다. 사용자가 작성한 글의 주제에 맞춰 서드파티 LLM과 공개된 웹 데이터를 기반으로 저명인사의 어조와 시각을 흉내 낸 첨삭 피드백을 생성해 주는 방식이었습니다.

동원된 이름의 범위는 유명 과학자부터 베스트셀러 소설가, 테크 블로거에 이르기까지 방대했습니다. 살아있든 이미 세상을 떠났든, 이들의 이름은 어떠한 사전 동의나 라이선스 계약도 없이 Grammarly 화면에 그대로 노출되었습니다.

Superhuman 측은 해당 전문가 표기가 참고용일 뿐이며 보증이나 제휴를 의미하지 않는다는 면책 조항을 걸어두었습니다. 하지만 자기 이름이 AI 봇의 라벨로 무단 사용된 것을 발견한 작가들은 크게 분노했습니다.

논란이 커지자 회사가 내놓은 초기 대응은 이름을 빼고 싶으면 신청하라는 옵트아웃 방식이었습니다. 이 황당한 대처는 오히려 분노를 키웠습니다. 바쁜 현역 작가들이 일일이 신청서를 찾아 작성해야 하는 데다, 이미 고인이 된 학자들은 도대체 어떻게 옵트아웃을 신청하느냐는 비판이 쏟아졌습니다. 결국 집단 소송이 제기되자 CEO인 Shishir Mehrotra는 링크드인을 통해 기능을 비활성화하고 재검토하겠다고 밝혔습니다.

왜 중요한가

우리는 이번 사태가 생성형 AI를 프로덕트에 무분별하게 이식하려던 테크 업계에 울리는 강력한 경고음이라고 봅니다.

사용자 입장에서 다양한 전문가의 문체나 관점을 빌려 교정을 받는 아이디어 자체는 유용합니다. 실제로 많은 사람이 ChatGPT에 특정 스타일을 모방해 달라고 프롬프트를 작성합니다. 하지만 특정 스타일을 참고하는 것과, 실존 인물의 실명을 무단으로 박아 넣고 그 사람의 평가인 것처럼 연출하는 것은 법적으로나 윤리적으로 완전히 다른 문제입니다.

산업 측면에서도 이번 소송은 중요한 분기점이 될 것으로 보입니다. 지금까지의 생성형 AI 분쟁이 주로 학습 데이터 저작권에 머물렀다면, 이제는 모델의 결과물이 타인의 성명권과 인격권을 침해하는 영역으로 불길이 옮겨붙었기 때문입니다.

면책 조항 몇 줄과 사후 옵트아웃만으로 실존 인물의 페르소나를 공짜 기능으로 팔아먹으려 했던 Superhuman의 시도는 지나치게 안이했습니다. 아무리 뛰어난 AI 기능이라도 타인의 정체성을 무단 도용하는 방식으로는 시장에서 살아남을 수 없다는 점이 분명해졌습니다.