跳到正文
IFAI

產業動態

微軟 AI 團隊開源配置失誤:意外洩露 38TB 內部敏感資料

首次發布 傳播指數 43

微軟 AI 研究部門在 GitHub 開源影像識別模型時,因 Azure 共享令牌許可權配置錯誤,意外暴露了 38TB 內部資料。洩露內容包含私鑰、員工電腦備份及 3 萬多條內部 Teams 訊息。安全機構 Wiz 發現後微軟已吊銷令牌並排查完畢。

微軟 AI 團隊開源配置失誤:意外洩露 38TB 內部敏感資料
圖:techcrunch.com

AI 開發者們在開源社群分享模型和資料集早已是家常便飯,但誰也沒想到,微軟自家的頂級研究團隊,會因為一個下載連結把自家的底褲全漏了。

雲安全初創公司 Wiz 披露,微軟的 AI 研究部門在 GitHub 上分享開源影像識別模型時,不小心洩露了多達 38 TB 的內部敏感資料。

這可不是幾個測試樣本。洩露的內容包括兩位微軟員工電腦的完整備份、各類微軟服務的密碼、金鑰,甚至還有數百名員工的超過 3 萬條 Microsoft Teams 內部聊天記錄。

一個連結,白送了三年「完全控制」

問題出在下載方式上。研究人員在 GitHub 專案中留下了一個 Azure Storage 的下載連結,方便大家下載模型檔案。但為了省事,他們在這個連結裡附帶了一個許可權完全放開的共享訪問簽名,也就是 SAS 令牌。

這個 SAS 令牌本來可以只給特定檔案的只讀許可權。但微軟研究員配置失誤,不僅把許可權設成了針對整個儲存賬戶,甚至還給出了完全控制權限。

換句話說,任何順著這個連結點進去的人,不僅能隨便下載微軟的核心機密,還能隨意刪除、替換裡面的檔案,甚至往模型裡植入惡意程式碼。

更讓人捏把汗的是時間。Wiz 的研究顯示,這個漏洞連結早在 2020 年就已經掛在 GitHub 上了,在網上靜靜躺了整整三年。

微軟緊急滅火,順手補了 GitHub 的漏洞

Wiz 在 6 月 22 日將漏洞報告給微軟。微軟的動作還算迅速,兩天後的 6 月 24 日就吊銷了這個失控的 SAS 令牌,並在 8 月 16 日完成了潛在影響的調查。

微軟安全響應中心在隨後的說明中表示,這次事件沒有洩露任何客戶資料,也沒有其他內部服務受到威脅。

為了防止自家人再犯這種低階失誤,微軟表示已經升級了 GitHub 的憑據掃描服務。這項功能不僅會檢查公開程式碼裡的明文密碼,現在還會主動掃描那些有效期過長、許可權過大的 SAS 令牌。

為什麼重要

這起事故給狂熱的 AI 行業結結實實提了個醒:AI 開發者的安全意識,正嚴重滯後於他們處理的資料規模。

現在每個大廠和創業團隊都在拼命訓練大模型、頻繁在開源社群上傳動輒幾十上百吉位元組的資料集。Wiz 技術長說得很中肯,資料科學家和工程師都在急著把 AI 推向生產,但他們經手的資料規模太大,這種鬆懈和混亂幾乎很難靠肉眼去查。

我們認為,這件事最危險的地方甚至不在於員工聊天記錄洩露,而在於供應鏈投毒的隱患。那個儲存桶掛著完全控制權限長達三年,一旦有駭客在中途篡改了開源的權重檔案,所有下載過該模型的下游開發者都可能中招。

微軟靠升級 GitHub 掃描工具來堵漏洞,看起來是一個聰明的自動化兜底方案。但對普通開發者和中小團隊來說,把機密憑證和海量訓練資料混放在同一個儲存桶裡,本身就是極其危險的工程習慣。想要安全地用好 AI,先把最基礎的許可權隔離做好,可能比多跑幾輪訓練更要緊。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選