跳到正文
IFAI

行业动态

OpenAI 升级安全体系:最高漏洞赏金提至 10 万美元,加码智能体防御

首次发布 传播指数 37

OpenAI 宣布升级安全举措。官方将关键漏洞最高赏金从 2 万提高至 10 万美元,并扩大网络安全资助计划。针对 Operator 等智能体面临的提示注入威胁,OpenAI 正联合红队实战与 AI 驱动防御加固系统。

OpenAI 升级安全体系:最高漏洞赏金提至 10 万美元,加码智能体防御
图:openai.com

当一家公司的周活跃用户突破 4 亿,黑客盯上的就不只是普通的服务器,还有底层模型和核心代码。

OpenAI 最近公布了他们在安全防护上的最新动作,把通向通用人工智能路上的防御底牌一次性亮了出来。

挖出重大漏洞,最高奖励翻了 5 倍

最直观的变化是白帽黑客的奖励提高了。

OpenAI 把重大安全漏洞的最高赏金从 2 万美元一口气拉到了 10 万美元,足足翻了 5 倍。

除了大幅提高常规漏洞的上限,他们还推出了限时奖励活动,在特定分类里提交合格报告还能拿到额外的奖金补贴。

针对学术界和独立研究者,OpenAI 两年前启动的网络安全资助计划也迎来了扩容。

过去两年里,他们累计审核了超过 1000 份申请,给 28 个研究项目提供了资金,深入研究了提示词注入、安全代码生成和自主防御等前沿难题。

这次他们不仅扩大了资助范围,还新增了提供 API 额度的微型资助,让研究人员能以更低的门槛快速验证自己的点子。

新一轮资助的重点方向很明确,集中在软件漏洞自动修补、模型隐私保护、高级威胁检测、安全工具集成以及智能体安全上。

自己给开源软件找 Bug,还要盯紧自家的 Agent

防御不仅靠花钱请外部人员挑刺,OpenAI 自己也开始拿 AI 大模型当防守武器。

他们利用自研模型自动检测和修补代码漏洞,在公开基准测试上拿到了前列的分数。

更值得一提的是,他们已经利用模型在开源软件代码里挖出了一些安全漏洞,目前正按照行业规范,陆续向相关开源项目方进行安全披露。

对于内部基础设施,OpenAI 找来了安全机构 SpecterOps,在企业内网、云端和生产环境中进行持续的对抗性红队测试。

前段时间 OpenAI 员工遭遇了鱼叉式钓鱼攻击,事后他们不仅加固了自身防线,还将掌握的攻击手法和威胁情报共享给了其他 AI 实验室,试图推进行业协同防守。

面对 Operator 和 deep research 等具备自主行动能力的 Agent,安全逻辑变得更复杂了。

为了防范提示词注入和越权操作,OpenAI 正在搭建一套统一的监控管线和模块化框架,对 Agent 的动作实施全链路实时拦截和行为审查。

甚至在针对下一代算力基础设施 Stargate 的规划中,他们也把零信任架构和硬件级防护提上了日程,要求物理安防和供应链安全必须跟上模型算力的扩张。

为什么重要

对于开发者和企业用户来说,4 亿周活意味着海量的商业数据和敏感信息正穿梭于 OpenAI 的基础设施中。大幅提高赏金、收紧红队测试,能让企业更有信心去尝试 Operator 这种能代替人类操作的自主智能体。不过我们认为,普通开发者不必盲目迷信这些防护承诺,毕竟提示词注入和复杂环境下的越权行为目前仍缺乏数学意义上的绝对防御,把核心系统完全交给 Agent 依旧需要保持足够的边界隔离。

在行业层面,OpenAI 把最高赏金拔高到 10 万美元,实质上是在向同行施压,拉高了整个前沿 AI 领域的安全及格线。顶级安全研究员的精力是有限的,出价更高的生态自然能吸引更多白帽黑客驻守。与此同时,OpenAI 主动将捕获的攻击情报共享给其他实验室,看起来也说明前沿 AI 的攻防对抗已经超出了单一公司的承受范围,联合防御正在变成行业刚需。

就具体做法而言,我们觉得这一套组合拳打得相当精明。OpenAI 没有停留在发白皮书的层面,而是把真金白银给到安全社区,同时顺手用自家模型给开源生态扫雷,既展示了模型修补代码的技术实力,又为自身建立了行业信誉。但潜在的隐患在于,随着 Agent 融入更多现实工具和软件调用链,攻击面被数倍放大,这套实时的监控管线能否在不牺牲响应速度的前提下兜住底线,仍然需要经受真实网络攻击的长期考验。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选