Meta 起訴「AI 脫衣」軟體 CrushAI:封禁廣告並跨平臺圍剿
Meta 宣佈在香港起訴 CrushAI 的母公司 Joy Timeline,嚴打利用 AI 生成非自願色情影像的推廣行為。Meta 還上線了新識別技術,能揪出不帶裸露畫面的擦邊廣告,並通過 Lantern 計劃向其他科技公司共享了逾 3800 個違規網址。

網上那些用 AI 幫人「一鍵脫衣」的惡俗工具,最近撞上了硬鐵板。
Meta 宣佈在香港正式起訴 Joy Timeline HK Limited。這家公司是知名 AI 脫衣應用 CrushAI 背後的運營實體,Meta 這次訴訟的目的很直接:徹底封死對方在 Facebook 和 Instagram 等平臺上投放廣告的任何可能。
雖然 Meta 早在一年前就明令禁止推廣任何「AI 脫衣」服務,但這幫廣告主一直在玩貓鼠遊戲。他們屢次被封,又屢次想方設法繞過稽核機制繼續買量。Meta 這次決定不再只按稽核按鈕,而是直接叫律師上門。
廣告裡沒裸照,也能把你揪出來
黑灰產從業者為了躲避封禁,招數一直在變。
很多推廣團隊學精了,廣告素材本身非常正經,根本沒有裸露畫面,靠著這種障眼法避開傳統的裸色檢測。一旦某個落地頁域名被 Meta 封掉,他們就立馬換一個新域名繼續跑。
針對這種對抗行為,Meta 拿出了針對性的攔截模型。新演算法即使在廣告圖文不含違規畫面的情況下,也能辨識出潛在的推廣意圖,並用影像和文本匹配技術批次清理抄襲復刻的同類廣告。
他們還拉上外部專家,把系統能識別的敏感詞庫擴充了一大圈,連帶有暗示意味的特定 emoji 都不放過。同時,Meta 把平時用來對付虛假協同賬號網路的分析手段搬了過來,今年以來已經連窩端掉了 4 個專門跑這類違規廣告的賬號網路。
除了在自己地盤上抓人,Meta 還在 Facebook 和 Instagram 上遮蔽了「nudify」「undress」「delete clothing」等關鍵詞的搜尋結果,並且把戰場擴大到了全行業。
自 3 月底以來,Meta 開始通過科技聯盟的 Lantern 計劃跟同行互通有無。只要發現推廣這類工具的違規連結,就同步給其他科技公司。截至目前,Meta 已經向各家平臺輸送了超過 3800 個違規獨立 URL。
此外,Meta 還公開表態支援美國兩黨推進的《TAKE IT DOWN Act》立法,並呼籲出臺新規讓家長在手機應用商店層面就能把關未成年人的 App 下載。
為什麼重要
AI 生成非自願親密照片是生成式技術落地後最惡劣的濫用場景之一。很多受害者甚至不知道自己的照片從社交媒體上被扒下來,成了某些小作坊工具的合成素材。這類工具往往在應用商店和網頁端悶聲發財,而買量廣告就是它們的生命線。
Meta 這一套組合拳做得挺聰明。對於這種黑灰產,光靠平臺內部的關鍵詞封禁和裸露稽核根本防不勝防,因為人家本身就是衝著賺快錢來的,打一槍換一個域名。
Meta 把審查邏輯從「看你畫了什麼」推進到「挖你關聯的整個賬號網路」,並且直接在源頭用法務手段起訴關鍵運營實體,算是打到了痛點上。更關鍵的是共享 3800 多個惡意 URL 給同行,這種跨平臺的黑名單聯動如果能常態化,這幫黑產換殼買量的成本就會成倍飆升。
不過,我們認為光在社交平臺攔截廣告還遠談不上根治。只要應用商店依然允許換皮的脫衣工具上架,或者開源模型在本地跑生圖沒有受到有效約束,這種灰產換個渠道就又能死灰復燃。Meta 把問題踢給了立法者和應用商店,這既是一次表態,也說明單靠一兩家社交巨頭,築不起防範 AI 惡意濫用的完整高牆。
來源 (1)
- about.fb.com(在新分頁開啟)原文about.fb.com