跳到正文
IFAI

AI工具

OpenAI 为 ChatGPT 推出锁定模式:断网防提示词注入,个人版也能用

首次发布 传播指数 40

OpenAI 宣布将「锁定模式」(Lockdown Mode)拓展至 ChatGPT 个人与商业版。开启后会禁用实时联网、Agent 模式、深度研究及文件下载,只允许访问缓存,防范提示词注入攻击导致的数据泄露;同时对高风险功能打上「Elevated Risk」标签。

OpenAI 为 ChatGPT 推出锁定模式:断网防提示词注入,个人版也能用
图:openai.com

如果你用过 iPhone 上的「锁定模式」,大概知道那是苹果给政要、记者和极客准备的终极护甲:宁可关掉一堆好用的功能,也绝不给黑客留半点缝隙。现在,OpenAI 也把这套逻辑搬进了 ChatGPT。

面对越来越防不胜防的提示词注入攻击,OpenAI 正式推出了「锁定模式」(Lockdown Mode)以及统一的「高风险」(Elevated Risk)功能标签。这项功能最初面向企业、教育、医疗等机构用户开放,随后推广到了个人账户和自助商业版账户。个人用户只要在设置里的安全选项中,就能一键开启。

宁可变笨,也要防住「内鬼」

AI 越能干,手伸得越长,出事的概率就越大。只要让它连上网、读外部网页或调用第三方应用,黑客就可能在网页里藏一段恶意指令,诱骗 AI 把你的聊天记录或敏感数据偷偷传到外部服务器,这就是业内头疼的提示词注入与数据外泄。

锁定模式的核心逻辑非常粗暴:把所有可能泄露数据的通道统统掐死。一旦开启,ChatGPT 的联网浏览将严格限制在缓存内容以内,绝不让任何实时网络请求离开 OpenAI 的受控网络。

除此之外,一系列高级联网功能会被直接关闭。这包括实时网络访问、回复中的图片支持、包含购物研究在内的深度研究模式、智能体模式(Agent Mode)、Canvas 的网络连接功能、实时连接器以及文件下载。说白了,只要系统无法给出确定性的安全保障,这项功能就干脆不给用。

对于企业管理员,系统还提供了更细致的权衡空间。管理员可以按角色开启锁定模式,并具体挑出哪些工作流必需的应用和操作可以例外保留,同时配合合规日志接口来追踪数据流动。

给危险功能贴上警告黄标

除了锁定模式,OpenAI 还在 ChatGPT、ChatGPT Atlas 和代码助手 Codex 中引入了统一的「高风险」标签。

比如在 Codex 里,开发者可以允许模型联网去查阅技术文档,但这本身就伴随着外部代码注入的风险。现在,这类涉及网络穿透或潜在外部交互的设置界面上,都会明确标出「Elevated Risk」,并讲清楚到底有什么风险、什么时候才建议开启。

OpenAI 表示,这些标签不是永久的。随着底层安全防御技术跟上、风险被有效化解后,对应的标签就会被摘下。

为什么重要

我们认为,这是 AI 安全策略走向务实的一个分水岭。过去厂商总喜欢向用户许诺一个无所不能、随时随地调取外部一切工具的超级智能体,但现实很骨感,只要基础架构上无法彻底解决提示词注入,任何联网动作就都是带毒的蛋糕。

对用户来说,如果你只是日常写写邮件、润色文案,完全没必要打开锁定模式,否则大半好用的功能直接瘫痪。但如果你是公司高管、法务、安全人员,或者正在把商业机密和核心代码喂给模型做分析,这个开关就是不可多得的防火墙。它明确告诉你:在这里,安全重于便利。

从行业角度看,OpenAI 的做法等于是向全行业承认,现阶段的大模型在面对提示词注入时并没有灵丹妙药。与其假装防御天衣无缝,不如老老实实把选择权和知情权还给用户。这种把功能阉割包装成安全特性的做法虽然显得有些无奈,但在企业级市场,往往正是这种确定性的保守策略,才能真正让大客户放心地把敏感业务搬上台面。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选