Meta 緊急下線 Instagram AI 功能:曾允許 @ 公開賬號生成 Deepfake
Meta 宣佈徹底下線剛公佈的 Instagram AI 功能。該功能原本允許使用者通過 @ 公開賬號,未經許可直接生成相關 AI 影像。在反性剝削組織與演員工會強烈抗議其助長 Deepfake 和敲詐風險後,Meta 承認設計偏離預期,將該功能直接移除。

想像一下,只要在輸入框裡艾特一下某個公開賬號,AI 就能自動扒下對方的照片,生成一張以假亂真的合成圖,而且原作者連一條通知都收不到。
這正是 Meta 本週二剛剛上線的玩法。但這套機制從公佈到徹底被砍,只撐了短短幾天。在遭遇全網聲討後,Meta 在週五更新了部落格,正式宣佈下線這個功能,承認它「沒有達到預期」。
預設開啟的噩夢機制
事情要從 Meta 旗下的超級智慧實驗室(Meta Superintelligence Labs)釋出的新影像模型 Muse Image 說起。
伴隨這個模型,Meta 推出了一個新功能:使用者在 Meta AI 裡生成圖片時,只要 @ 某個 Instagram 公開賬號,就能直接把對方主頁裡的內容作為畫面參考。
最大的爭議在於預設設定。只要你的 Instagram 是公開賬號,就等於默認同意別人拿你的臉和生活照去喂 AI,哪怕被拿去二創了,系統也不會給你發任何提醒。
Meta 辯稱自己的初衷是提供一個好用的創作工具,並且使用者可以通過設定關閉授權。但問題是,這個退出開關藏得極深,普通人根本找不到。
從演藝工會到好萊塢巨頭的集體聲討
功能一上線,各方直接炸了鍋。
美國國家反性剝削中心(NCOSE)高管 Haley McNamara 週五公開抨擊,這不僅侵蝕了人們對自身肖像的權利,更是為性勒索(sextortion)和各類詐騙犯遞上了現成工具。她強調,平臺搞這種高風險設計,卻把防範風險的負擔甩給普通使用者去層層尋找退出選項,完全不可接受。
演員工會(SAG-AFTRA)更是直接向全體成員釋出警告,手把手教演員們怎麼去後臺關閉授權。
隨後,包括好萊塢巨頭 CAA 在內的經紀公司也加入抗議行列。據 Puck News 記者 Dylan Byers 透露,正是來自使用者、知名經紀公司和各方機構的巨大審視壓力,迫使 Meta 緊急按下了倒退鍵。
為什麼重要
對每一個在網上發過公開照片的人來說,這次事件敲響了一個警鐘。你公開分享的生活點滴,在很多大廠眼裡都是未經許可就可以隨意調取的「AI 素材庫」。雖然這次 Meta 迫於壓力關掉了功能,但普通人在保護自己肖像權上付出的精力,看起來只會越來越沉重。
對整個 AI 和社交平臺行業而言,Meta 這一步走得相當草率,甚至顯得有些短視。把使用者最敏感的個人肖像權做成「預設開啟、由使用者自己去 Opt-out」的機制,幾乎必然會引火燒身。
我們認為,AI 時代的版權和肖像保護底線必須是「主動授權(Opt-in)」,而不是「先斬後奏」。如果連 Meta 這樣體量的巨頭都會在如此顯而易見的倫理隱患上翻車,其他試圖把 AI 工具和社交網路深度捆綁的廠商,都該好好算算這一步踩雷的聲譽代價。
來源 (2)
- theverge.com(在新分頁開啟)原文theverge.com
- techcrunch.com(在新分頁開啟)報導techcrunch.com