Meta 紧急下线 Instagram AI 功能:曾允许 @ 公开账号生成 Deepfake
Meta 宣布彻底下线刚公布的 Instagram AI 功能。该功能原本允许用户通过 @ 公开账号,未经许可直接生成相关 AI 图像。在反性剥削组织与演员工会强烈抗议其助长 Deepfake 和敲诈风险后,Meta 承认设计偏离预期,将该功能直接移除。

想象一下,只要在输入框里艾特一下某个公开账号,AI 就能自动扒下对方的照片,生成一张以假乱真的合成图,而且原作者连一条通知都收不到。
这正是 Meta 本周二刚刚上线的玩法。但这套机制从公布到彻底被砍,只撑了短短几天。在遭遇全网声讨后,Meta 在周五更新了博客,正式宣布下线这个功能,承认它「没有达到预期」。
默认开启的噩梦机制
事情要从 Meta 旗下的超级智能实验室(Meta Superintelligence Labs)发布的新图像模型 Muse Image 说起。
伴随这个模型,Meta 推出了一个新功能:用户在 Meta AI 里生成图片时,只要 @ 某个 Instagram 公开账号,就能直接把对方主页里的内容作为画面参考。
最大的争议在于默认设置。只要你的 Instagram 是公开账号,就等于默认同意别人拿你的脸和生活照去喂 AI,哪怕被拿去二创了,系统也不会给你发任何提醒。
Meta 辩称自己的初衷是提供一个好用的创作工具,并且用户可以通过设置关闭授权。但问题是,这个退出开关藏得极深,普通人根本找不到。
从演艺工会到好莱坞巨头的集体声讨
功能一上线,各方直接炸了锅。
美国国家反性剥削中心(NCOSE)高管 Haley McNamara 周五公开抨击,这不仅侵蚀了人们对自身肖像的权利,更是为性勒索(sextortion)和各类诈骗犯递上了现成工具。她强调,平台搞这种高风险设计,却把防范风险的负担甩给普通用户去层层寻找退出选项,完全不可接受。
演员工会(SAG-AFTRA)更是直接向全体成员发布警告,手把手教演员们怎么去后台关闭授权。
随后,包括好莱坞巨头 CAA 在内的经纪公司也加入抗议行列。据 Puck News 记者 Dylan Byers 透露,正是来自用户、知名经纪公司和各方机构的巨大审视压力,迫使 Meta 紧急按下了倒退键。
为什么重要
对每一个在网上发过公开照片的人来说,这次事件敲响了一个警钟。你公开分享的生活点滴,在很多大厂眼里都是未经许可就可以随意调取的「AI 素材库」。虽然这次 Meta 迫于压力关掉了功能,但普通人在保护自己肖像权上付出的精力,看起来只会越来越沉重。
对整个 AI 和社交平台行业而言,Meta 这一步走得相当草率,甚至显得有些短视。把用户最敏感的个人肖像权做成「默认开启、由用户自己去 Opt-out」的机制,几乎必然会引火烧身。
我们认为,AI 时代的版权和肖像保护底线必须是「主动授权(Opt-in)」,而不是「先斩后奏」。如果连 Meta 这样体量的巨头都会在如此显而易见的伦理隐患上翻车,其他试图把 AI 工具和社交网络深度捆绑的厂商,都该好好算算这一步踩雷的声誉代价。
来源 (2)
- theverge.com(在新标签页打开)原文theverge.com
- techcrunch.com(在新标签页打开)报道techcrunch.com