跳到正文
IFAI

產業動態

Slack 預設用使用者資料練 AI 遭炮轟:想退出還得專門發郵件

首次發布 傳播指數 43

Slack 因預設使用客戶資料訓練全域性推薦模型且必須發郵件才能退出,在社群引發軒然大波。Slack 緊急回應稱 Slack AI 外掛並不會拿客戶資料訓練大模型,該條款僅針對頻道和 Emoji 推薦等功能,但模糊的表述和隱蔽的門檻依然引發了信任危機。

很多團隊習慣把最敏感的業務討論、機密程式碼甚至內部八卦全丟在 Slack 裡,覺得這種收費的企業級辦公軟體至少在隱私上讓人放心。

結果昨晚開發者社群直接炸了鍋。大家突然發現,Slack 早就預設把你的工作聊天記錄拿去訓練它的 AI 模型了。如果你不想讓它用,唯一的辦法不是在後臺關掉一個開關,而是得專門給他們發一封郵件去申請退出。

藏在角落裡的默認同意

這起風波最初始於 Hacker News 上的一條帖子。發帖人甚至沒寫什麼激烈的控訴,只是貼出了 Slack 官網隱私原則的連結,瞬間就引來了海量討論和轉發。

很多人點開才發現,自己早就被預設加入了訓練池。按照網路時光機(Internet Archive)的記錄,這套條款至少從 September 2023 就已經悄悄生效了,只是幾乎沒人仔細研究過。

在平時大談特談「資料控制權歸客戶所有」的 Slack,卻把退出資料訓練的門檻設成發郵件。這種極其原始且隱蔽的操作,立刻惹惱了一大批開發者和企業使用者。

表情推薦還是大模型,到底拿什麼訓

面對質疑,Slack 發言人向媒體解釋,事情沒大家想得那麼嚇人。他們用來訓練的主要是平臺底層的機器學習模型,也就是所謂的「全域性模型」,用途是頻道推薦、表情符號推薦和搜尋結果排序。

官方還強調,這些模型絕不會學習、記住或復現任何客戶的具體資料內容。而且使用者即便發郵件退出了資料訓練,也依然可以使用這些全域性模型提供的功能。

至於後來推出的獨立付費外掛 Slack AI,官方表示並不會用客戶資料來訓練大語言模型。Slack AI 使用的模型直接託管在 Slack 自己的 AWS 基礎設施上,資料不會分享給第三方提供商,完全留在客戶組織內部。

但問題在於,使用者在官網條款里根本看不到這些具體的界限。工程師兼作家 Gergely Orosz 在 Threads 上公開提出質疑後,Slack 工程師 Aaron Maurer 承認,現有的隱私條款寫得太早,當時公司還沒有 Slack AI,那套規則只是針對老系統的搜尋和推薦寫的,確實需要儘快更新頁面來講清楚區別。

為什麼重要

對所有用 Slack 辦公的公司和團隊來說,這不僅是一個隱私知情權的問題,更是一個巨大的合規漏洞。很多企業的法務和 IT 部門對資料安全有著嚴苛要求,如果連公司內部溝通記錄都在不知情的前提下被廠商預設用來喂模型,相關管理者現在就必須立刻核查並決定要不要傳送退出郵件。

從行業角度看,SaaS 軟體巨頭們現在正急著把 AI 塞進所有工作流裡。但企業客戶買單的前提是資料絕對隔離。Slack 這種試圖用傳統機器學習時代的模糊條款,來糊弄當下高度敏感的 AI 時代使用者的做法,看起來非常遲鈍而且自相矛盾。

我們認為,Slack 這次捱罵一點都不冤。如果真的行得正坐得端,就應該像主流產品那樣在後臺設定一個清晰的一鍵開關,而不是逼著客戶寫信去人工稽核。混淆全域性模型和生成式 AI 的界限,不僅沒有安撫住使用者,反而嚴重透支了這家老牌協作平臺的信任資產。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選