跳到正文
IFAI

產業動態

防洩密:Apple 限制員工使用 ChatGPT 與 GitHub Copilot

首次發布 傳播指數 41

據《華爾街日報》等報道,Apple 已限制員工使用 ChatGPT 及 GitHub Copilot 等外部 AI 工具,擔心機密資料洩露或被用於模型訓練。OpenAI 預設儲存對話,即使關閉歷史記錄也會保留 30 天。此前摩根大通、亞馬遜也出臺了類似禁令。

防洩密:Apple 限制員工使用 ChatGPT 與 GitHub Copilot
圖:theverge.com

OpenAI 這週剛高高興興地把 ChatGPT 官方應用搬上了 iPhone,蘋果自家的員工卻在後院收到了警告:千萬別碰它。

據《華爾街日報》報道,蘋果已經限制員工在工作中使用 ChatGPT 等外部生成式 AI 工具。除了 ChatGPT,微軟旗下 GitHub 的 AI 程式設計助手 Copilot 也在限制名單之列。彭博社記者 Mark Gurman 還在社交平臺上補充了一條內幕:其實 ChatGPT 出現在蘋果的受限軟體清單上,已經有好幾個月了。

員工省事了,公司底褲可能沒了

蘋果這麼做,並不是跟新技術過不去,而是真怕了資料洩露。

在預設情況下,OpenAI 會把使用者和 ChatGPT 說的每一句話都存下來,用來給未來的模型做訓練資料。而且為了排查違規內容,OpenAI 的人工稽核員隨時可能調出這些對話檢視。

雖然 OpenAI 在 4 月上線了允許使用者關閉聊天記錄的功能,但即便你關掉了歷史記錄,資料依然會在他們的伺服器上保留 30 天,OpenAI 依然保留了在這期間審查濫用行為的許可權,之後才會徹底刪除。

程式設計師拿它改一段程式碼,產品經理拿它頭腦風暴一個未釋出的功能,在個人看來效率拉滿,但對蘋果來說,這就相當於把絕密專案的核心邏輯直接複製貼上到了別人的伺服器上。

更別說學術界還有研究表明,理論上可以通過特定提示詞從大模型裡反向套出訓練資料,哪怕 ChatGPT 目前還沒有被證實存在這種漏洞,蘋果也絕對不敢賭這萬分之一的機率。

而且蘋果不是一個人在戰鬥。在此之前,摩根大通、電信巨頭 Verizon 以及亞馬遜,都已經對員工使用生成式 AI 下達了類似的禁令。

為什麼重要

我們認為,蘋果的禁令給所有正在把 AI 引入工作流的團隊敲了一個警鐘。

這件事最戲劇化的地方在於,OpenAI 的 iOS 應用正在 App Store 裡瘋狂吸粉,蘋果一邊把平臺大門向它敞開,一邊又在自己內部築起高牆。這種反差看起來有些矛盾,但邏輯其實很統一:允許普通消費者嚐鮮,和允許核心研發接觸黑盒工具,完全是兩碼事。

對於日常依賴 ChatGPT 改文案、寫指令碼的打工人來說,現在必須多長一個心眼。如果你的公司涉及核心自研技術、金融或客戶隱私,把內部材料直接餵給公網上的大模型,幾乎等同於把商業機密暴露在隨時可能被稽核的公共空間裡。

對 AI 行業本身而言,巨頭們的集體設防實際上在倒逼企業服務變天。光靠個人訂閱模式走不長遠,如果 OpenAI 和微軟不能給出絕對可信的本地化部署、徹底的資料隔離以及零保留承諾,主流大廠就永遠不可能放開核心業務的許可權。這也給主打企業資料安全的垂直 AI 供應商留出了巨大的生存空間。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

話題追蹤蘋果對 ChatGPT 的態度

這個話題的歷次新聞,最新的在上面。

  1. 庫克透露自己也在用 ChatGPT:蘋果正密切關注,企業須自律監管
  2. 防洩密:Apple 限制員工使用 ChatGPT 與 GitHub Copilot本則

每日 AI 內容精選