跳到正文
IFAI

行业动态

Slack 默认用用户数据练 AI 遭炮轰:想退出还得专门发邮件

首次发布 传播指数 43

Slack 因默认使用客户数据训练全局推荐模型且必须发邮件才能退出,在社区引发轩然大波。Slack 紧急回应称 Slack AI 插件并不会拿客户数据训练大模型,该条款仅针对频道和 Emoji 推荐等功能,但模糊的表述和隐蔽的门槛依然引发了信任危机。

很多团队习惯把最敏感的业务讨论、机密代码甚至内部八卦全丢在 Slack 里,觉得这种收费的企业级办公软件至少在隐私上让人放心。

结果昨晚开发者社区直接炸了锅。大家突然发现,Slack 早就默认把你的工作聊天记录拿去训练它的 AI 模型了。如果你不想让它用,唯一的办法不是在后台关掉一个开关,而是得专门给他们发一封邮件去申请退出。

藏在角落里的默认同意

这起风波最初始于 Hacker News 上的一条帖子。发帖人甚至没写什么激烈的控诉,只是贴出了 Slack 官网隐私原则的链接,瞬间就引来了海量讨论和转发。

很多人点开才发现,自己早就被默认加入了训练池。按照网络时光机(Internet Archive)的记录,这套条款至少从 September 2023 就已经悄悄生效了,只是几乎没人仔细研究过。

在平时大谈特谈「数据控制权归客户所有」的 Slack,却把退出数据训练的门槛设成发邮件。这种极其原始且隐蔽的操作,立刻惹恼了一大批开发者和企业用户。

表情推荐还是大模型,到底拿什么训

面对质疑,Slack 发言人向媒体解释,事情没大家想得那么吓人。他们用来训练的主要是平台底层的机器学习模型,也就是所谓的「全局模型」,用途是频道推荐、表情符号推荐和搜索结果排序。

官方还强调,这些模型绝不会学习、记住或复现任何客户的具体数据内容。而且用户即便发邮件退出了数据训练,也依然可以使用这些全局模型提供的功能。

至于后来推出的独立付费插件 Slack AI,官方表示并不会用客户数据来训练大语言模型。Slack AI 使用的模型直接托管在 Slack 自己的 AWS 基础设施上,数据不会分享给第三方提供商,完全留在客户组织内部。

但问题在于,用户在官网条款里根本看不到这些具体的界限。工程师兼作家 Gergely Orosz 在 Threads 上公开提出质疑后,Slack 工程师 Aaron Maurer 承认,现有的隐私条款写得太早,当时公司还没有 Slack AI,那套规则只是针对老系统的搜索和推荐写的,确实需要尽快更新页面来讲清楚区别。

为什么重要

对所有用 Slack 办公的公司和团队来说,这不仅是一个隐私知情权的问题,更是一个巨大的合规漏洞。很多企业的法务和 IT 部门对数据安全有着严苛要求,如果连公司内部沟通记录都在不知情的前提下被厂商默认用来喂模型,相关管理者现在就必须立刻核查并决定要不要发送退出邮件。

从行业角度看,SaaS 软件巨头们现在正急着把 AI 塞进所有工作流里。但企业客户买单的前提是数据绝对隔离。Slack 这种试图用传统机器学习时代的模糊条款,来糊弄当下高度敏感的 AI 时代用户的做法,看起来非常迟钝而且自相矛盾。

我们认为,Slack 这次挨骂一点都不冤。如果真的行得正坐得端,就应该像主流产品那样在后台设置一个清晰的一键开关,而不是逼着客户写信去人工审核。混淆全局模型和生成式 AI 的界限,不仅没有安抚住用户,反而严重透支了这家老牌协作平台的信任资产。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

每日 AI 内容精选