跳到正文
IFAI

AI工具

OpenAI 为 ChatGPT 推出锁定模式:关掉部分功能防提示注入

首次发布 传播指数 48

OpenAI 推出 ChatGPT 锁定模式(Lockdown Mode),专为处理敏感数据的用户设计以防范提示注入攻击。开启后会禁用 Deep Research 和 Agent Mode,并限制网络图片加载与文件下载。免费用户也可在设置的安全选项中开启。

OpenAI 为 ChatGPT 推出锁定模式:关掉部分功能防提示注入
图:engadget.com

AI 越来越能干,能联网、能看网页、还能帮人做深度调研。但问题是,网上的东西不全干净。

恶意分子只要在网页或文档里藏上一句隐形指令,就能骗你的 AI 把隐私数据悄悄送出去。这种手法叫提示词注入(prompt injection)。

为了对付这招,OpenAI 最近上线了一个新功能:锁定模式(Lockdown Mode)。官方直言,这功能不是给普通人准备的,而是给那些成天处理高危敏感数据的个人和团队准备的「最后防线」。

为了安全,先砍掉 AI 两条腿

锁定模式的核心逻辑很简单:既然攻击者总想顺着网络连接偷数据,那就把 AI 的联网手脚全捆上。

开启之后,ChatGPT 的 Deep Research 和 Agent Mode(智能体模式)会被完全关闭。它不再能实时浏览网页,只能读取缓存内容;也不能自己去网上抓取并显示图片,更不能主动从外部下载文件来分析。

不过,它并不是彻底变成单机版。你依然可以让它生成图片,或者自己手动上传本地文档让它处理。

OpenAI 特别提醒,这个模式管的是「数据外泄」,管不了「恶意指令本身」。比如你上传的文件里本来就藏着注入指令,AI 还是可能被带偏、给出胡说八道的回答。锁定模式要防的,是指令利用网络请求把敏感数据偷运出去。

还有一点要注意:锁定模式不会改变 ChatGPT 的记忆功能、本地文件上传规则、分享会话权限,也不会改动你的对话是否会被拿去训练模型。

怎么开,以及另一个安全更新

这个功能已经面向所有个人账户开放,连免费版用户都有份,另外也覆盖了自助式的 ChatGPT Business 账户。

打开 ChatGPT 设置,找到「Safety and security」(安全与隐私),在「Advanced security」下面就能看到「Lockdown mode」开关。如果你平时开着,临时某个对话想联网查点东西,也可以直接在聊天窗口上方的状态栏里点管理,选择仅在当前对话关闭。

OpenAI 还顺手推出了一个活跃会话管理器(active session manager)。

在里面你能看清楚有哪些设备、哪种浏览器登录过你的账号,支持一键退出单个设备或者全部踢下线。不过官方提醒,退出全部会话的操作可能需要最多 30 分钟才能彻底生效。

为什么重要

我们认为,OpenAI 推出锁定模式,算是承认了一个残酷的现实:提示词注入在现有大模型架构下,几乎是一个无解的数学难题。

它没有假装自己修补了底层漏洞,而是借鉴了苹果当年在 iOS 上的做法——既然拦不住攻击,那就给极端在乎安全的用户提供一个「物理断网」式的开关。

对普通人来说,这功能完全用不上,平时开着反而是自废武功,剥夺了 ChatGPT 最强大的搜索和智能体能力。但对于律师、投行分析师、政府顾问或者处理核心机密的开发人员,这是一个相当实用的安全垫。他们不需要 AI 上网冲浪,只需要在一个密封的沙盒里处理本地私密文件。

从行业来看,大模型公司过去一直在疯狂堆叠 Agent 和自动化操作权限,恨不得让 AI 接管一切网页。OpenAI 这次往回收了一步,等于提醒全行业:给 AI 的联网权限越大,后门的口子就撕得越宽。未来企业级 AI 的竞争,可能不仅比谁跑得快,更要比谁能随时把刹车踩死。

来源 (2)

  1. [1]
    engadget.com(在新标签页打开)原文engadget.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选