킥스타터, 생성형 AI 활용 크라우드펀딩에 상세 내역 공개 의무화

크라우드펀딩에서 공들인 창작물인 줄 알고 후원했는데, 알고 보니 출처 불명의 데이터를 학습한 생성형 AI의 결과물이었다면 후원자 입장에서는 배신감을 느낄 수밖에 없습니다.

창작자 커뮤니티의 거센 반발 속에서 고민을 거듭하던 킥스타터가 마침내 칼을 빼들었습니다. 킥스타터는 생성형 AI를 활용한 프로젝트에 대해 구체적인 사용 내역을 의무적으로 공개하도록 하는 새로운 정책을 발표했습니다. 적용 시점은 8월 29일부터이며, 이전 제출 프로젝트에는 소급 적용되지 않습니다.

어디까지가 인간의 몫이고, 어디부터가 AI인가

새 정책에 따라 이미지, 텍스트, 음악, 음성 등을 생성하는 데 AI 도구를 사용한 프로젝트는 등록 시 별도의 설문에 응해야 합니다.

창작자는 프로젝트 내에서 AI를 구체적으로 어떻게 사용할 계획인지, 어떤 요소가 100% 오리지널 창작물이고 어떤 요소가 AI로 생성되었는지를 명확히 밝혀야 합니다. 이 내용은 프로젝트 페이지에 신설되는 'Use of AI(AI 사용)' 섹션에 그대로 공개됩니다.

AI 기술이나 소프트웨어 자체를 개발하는 프로젝트에는 더 엄격한 잣대가 적용됩니다. 창작자는 학습 데이터의 출처를 밝혀야 하며, 원작자의 동의와 출처 표기가 어떻게 이루어졌는지, 옵트아웃이나 옵트인 같은 보호 장치가 마련되어 있는지 소명해야 합니다.

제출된 프로젝트는 킥스타터의 내부 인력 검토를 거치며, AI 사용 사실을 제대로 공개하지 않을 경우 프로젝트가 중단될 수 있습니다.

무단 복제와 논란 끝에 나온 고육지책

킥스타터가 이번 정책을 내놓기까지는 적지 않은 진통이 있었습니다.

지난해 말 킥스타터는 안전 필터 없이 성인물 등 무제한 생성을 지원하는 'Unstable Diffusion' 프로젝트의 펀딩을 중단시켰습니다. 최근에는 기존 독립 만화를 AI로 표절한 프로젝트를 승인했다가 뒤늦게 취소하는 촌극을 빚기도 했습니다.

수잔나 페이지카츠 킥스타터 신뢰 및 안전 담당 디렉터는 후원자와 창작자 커뮤니티가 가장 원했던 것은 바로 '투명성'이었다고 강조했습니다.

왜 중요한가

일반 후원자 관점에서는 '지뢰 밟기'를 피할 수 있는 최소한의 안전장치가 생겼습니다. 보드게임 아트워크나 일러스트북을 후원할 때 이것이 사람 손을 거친 것인지, 알고리즘이 뽑아낸 것인지 확인하고 지갑을 열 수 있게 되었습니다.

반면 킥스타터에서 AI 모델이나 소프트웨어를 개발하려는 프로젝트 팀에게는 상당한 진입 장벽이 될 것입니다. 오픈AI 같은 거대 기업조차 소송과 경쟁을 이유로 학습 데이터 출처를 숨기는 상황에서, 인디 개발자가 데이터셋의 완벽한 동의 절차를 입증하기란 현실적으로 매우 어렵기 때문입니다.

우리는 킥스타터가 생성형 AI를 무조건 금지하는 극단적인 선택 대신, 투명한 정보 공개를 통해 후원자에게 선택권을 넘긴 점은 영리한 접근이라고 봅니다.

문제는 사후 검증입니다. AI 생성 여부를 완벽히 판별하는 기술이 아직 없는 상황에서 창작자가 악의적으로 숨길 경우 플랫폼의 자체 검수 인력만으로 이를 완벽히 걸러낼 수 있을지는 여전히 의문으로 남습니다.