微軟升級防深偽侵權:擴大攔截 AI 親密影像,覆蓋 OneDrive 和 Xbox
Microsoft 宣佈升級針對非自願親密影像(NCII)的防禦機制,將 AI 生成影像與真實照片同等對待。新措施優化了全球舉報表單,並將 StopNCII.org 雜湊檢測擴充套件至 Teams 免費版、OneDrive 及 Xbox,以自動攔截違規內容。

如果有人未經允許把你的私密照片發到網上,甚至是拿 AI 把你的臉合成上去,最讓人崩潰的往往不是找人理論,而是維權時複雜漫長的流程。
面對滿屏的法律術語和申訴入口,受害者往往要反覆自證,還得提防照片二次洩露。針對這個問題,微軟在 5 月 27 日宣佈全面升級防禦體系,把打擊非自願私密影像(NCII)的範圍直接擴大到多項核心消費級產品。
這次調整不僅把真人照片和 AI 生成圖放在了同等嚴格的稽核標準下,還打通了多個日常產品線。
把防護網鋪進網盤、主機和聊天工具
很多人不知道,微軟早在兩年前就給非營利反侵權平臺 StopNCII.org 提供了升級版 PhotoDNA 技術。它的厲害之處在於,受害者在自己的裝置本地就能生成照片的數字特徵碼,也就是雜湊值,根本不需要把原圖上傳到網上。
微軟從 2024 年 9 月開始在 Bing 搜尋引擎上拿這套雜湊庫做試點。而這次他們正式把驗證過的 StopNCII.org 雜湊比對,推廣到了 Teams Free、OneDrive 和 Xbox。
這意味著只要特徵碼對得上,系統就會在這些消費端服務中加速攔截和下架。微軟表示會在合適的地方使用自動化手段加快清理,同時保留人工稽核和清晰的申訴通道,防止誤傷。
舉報入口也做了翻新。微軟在產品內整合了更直觀的舉報表單,不再區分這是真拍的還是 AI 捏造的,統一按非自願私密影像違規處理,降低受害者在緊急關頭填寫表單的心智負擔。
除了技術圍堵,微軟還拉上英國公益組織 Childnet,專門針對青少年推出了預防 AI 濫用生成私密影像的科普材料。這套內容不僅在英國上線,還針對新加坡、韓國和日本做了本土化落地。
為什麼重要
對於普通使用者和家長來說,這次升級最實在的地方,是讓維權終於不再需要「把隱私再剝開一次」。過去很多人不敢去維權,就是怕為了證明侵權而把私密照片傳給第三方。現在裝置端直接生成雜湊指紋,連網盤和遊戲主機這類私域或半公開場景也能覆蓋,確實給受害者省去了極大的心理負擔。
對行業來說,這也是大廠在監管高壓下的一次標準收攏。本月美國《Take It Down Act》剛開始生效,歐盟也在嚴厲打擊一鍵生成裸照的惡意軟體,英國監管機構 Ofcom 同樣拿出了更嚴的合規細則。微軟這次搶先把 AI 偽造圖和真實偷拍放在同一個危害等級來處理,我們認為這會逼著其他持有云儲存和社交業務的平臺快速跟進,以後誰要是還在申訴時把 AI 假圖當次要問題處理,很難向監管交代。
不過看起來這套方案也有盲區。雜湊攔截的前提是受害者主動去平臺建了特徵碼,或者網上已經有人立案生成了指紋。對於那些在熟人小圈子裡私下流傳、受害者本人甚至毫不知情的 AI 換臉圖,單純靠雜湊庫很難做到第一時間預警。技術把關雖然更密了,但真正的隱患往往依然藏在暗處。
來源 (1)
- blogs.microsoft.com(在新分頁開啟)原文blogs.microsoft.com