跳到正文
IFAI

行业动态

Kickstarter 出台新规:用生成式 AI 的众筹项目必须说清楚细节

首次发布 传播指数 41

Kickstarter 宣布自 8 月 29 日起,所有使用生成式 AI 的众筹项目必须披露具体使用细节,标明哪些由 AI 生成、哪些纯属原创。开发 AI 工具的项目还需公开训练数据来源及授权情况。未如实申报的项目可能被直接暂停。

Kickstarter 出台新规:用生成式 AI 的众筹项目必须说清楚细节
图:techcrunch.com

众筹买东西,支持者最怕的不是跳票,而是花钱买了一堆 AI 批量生成的贴图,还发现背后的训练集全靠未经授权的扒图。

众筹平台 Kickstarter 在经历了大半年的纠结后,终于决定出手立规矩。Kickstarter 宣布,从 8 月 29 日起,所有涉及生成式 AI 的项目都必须强制披露具体细节。此前提交的项目不会被追溯,但新项目如果隐瞒,随时可能被下架。

哪部分自己画的,哪部分 AI 生成的,先交代清楚

根据新规,只要你的项目用了 AI 生成图片、文本、音乐或语音,提交时就得老老实实填写一份新问卷。

发起人必须在项目页面写明两件事:自己到底打算怎么用 AI,以及项目中哪些部分是纯原创、哪些部分靠 AI 生成。这些内容会在页面新增的「Use of AI」专区直接展示给支持者看。

更狠的是针对「开发 AI 工具」的项目。如果你来众筹做一个新的 AI 软件,Kickstarter 要求你必须交待训练数据的来源,说清楚这些数据是怎么取得原作者授权和署名的,还要提供类似 opt-out 或 opt-in 的退出与保护机制。

所有提交的 AI 项目依然要经过人工审核。Kickstarter 信任与安全总监 Susannah Page-Katz 表示,社区最想要的就是透明度,一旦发现发起人故意瞒报,项目就会面临停摆。

封杀无底线项目后,审核终于有了明文依据

这套规则其实是被现实一步步逼出来的。

去年底,Kickstarter 封杀了一个叫 Unstable Diffusion 的项目,对方试图众筹一个没有任何安全过滤器的 AI 绘画工具,甚至允许生成色情内容。Kickstarter 当时以该项目利用特定群体、存在潜在危害为由将其拿下。

前不久,平台又批准了一个用 AI 抄袭他人原创漫画的项目,引发众怒后才紧急下架。这类荒唐事一再发生,让人工审核团队苦不堪言。

其实从去年 12 月开始,Kickstarter 就放话要重新评估 AI 训练数据是否构成对创作者的抄袭。现在的这套规定,算是平台给各方交出的阶段性答卷。

为什么重要

对于支持者来说,这套新规最大的价值就是排雷。以前你很难分辨一个插画集到底是画师肝出来的,还是 Midjourney 几秒钟跑出来的,现在至少能在「Use of AI」标签下看到发起人的自白,值不值得掏钱,心里会更有底。

不过,对于想在平台上做 AI 工具开发的团队来说,门槛被拔得非常高。现在连 OpenAI 这种巨头都以商业竞争和法律风险为由拒绝公开训练数据集,Kickstarter 要求独立开发者公开训练源头和授权流程,在实操中极难做到。

我们认为,Kickstarter 这一步走得相当克制也算聪明。它没有像部分激进社区那样直接把生成式 AI 一刀切全面封杀,而是把知情权和选择权交还给社区和支持者。

隐患在于执行层面。识别一段文字或一张图到底是不是 AI 做的,目前在技术上依然没有完美的检测工具,全靠发起人自觉披露加上人工审核,一旦遇到别有用心的抄袭者打擦边球,平台的人力审核压力只会越来越大。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

每日 AI 内容精选