跳到正文
IFAI

行业动态

OpenAI 联手 Cathedral 搞安全冲刺:严重漏洞赏金翻四倍

首次发布 传播指数 59

OpenAI 宣布将与安全机构 Cathedral 展开合作,启动新一轮内部安全冲刺,利用自家模型排查系统弱点。官方同时把严重漏洞的悬赏金额拉高到原先的四倍以上,并承诺在半年内为一线防御人员提供 10 亿美元的模型使用补贴。

OpenAI 联手 Cathedral 搞安全冲刺:严重漏洞赏金翻四倍
图:interestingengineering.com

用 AI 找系统漏洞早就不是新鲜事,但拉来自家最聪明的模型、甚至请来外援联手对自家系统「下死手」,OpenAI 这次显然准备动真格的。

OpenAI 宣布正在筹备新一轮内部安全冲刺。这次他们拉来了外部安全机构 Cathedral,双方的研究人员将一起拿着 OpenAI 自家的前沿模型,对自家的防御体系发起极限施压,专门揪出那些藏在深处的系统弱点。

除了拉外援协同作战,OpenAI 还给外部白帽子黑客们准备了真金白银。官方宣布大幅调整安全漏洞赏金计划,把针对严重漏洞的悬赏金额直接拉高到原先的四倍以上。重赏之下必有勇夫,说白了,OpenAI 就是想用高额奖金把全球顶尖黑客的火力吸引过来,帮自己先找漏洞。

抽出 25% 的工程师,让 AI 去查 AI

这套让 AI 深度参与攻防的打法,其实在前一轮安全冲刺中就已经被验证过。

当时 OpenAI 抽调了整整 25% 的产品工程师,全员扑在系统漏洞的挖掘和修复上。工程师们利用 Codex 在完全隔离的沙盒环境中调查线索、复现漏洞,并快速生成补丁代码提交人工审查。

在传统安全模式下,找漏洞和修补往往是一场旷日持久的人力消耗战。但 OpenAI 认为,现在整个行业面临的网络威胁演进太快,单靠传统的防御手段已经远远不够。一旦潜在攻击者开始利用 AI 加速攻击,留给防守方反应的时间窗口就会被极速压缩,唯一的应对办法就是建立持续的 AI 防御循环。

拿出 10 亿美元,把作业本抄给同行

光自己把门锁好还不够,OpenAI 还打算拉着产业界和政府一起筑防线。

官方表示,正通过面向防御者的 Daybreak 计划,把最强模型的安全能力开放给更多客户。OpenAI 承诺在未来六个月内,为保护关键基础设施和数字服务的一线网络防御人员提供高达 10 亿美元的模型使用补贴。

与此同时,OpenAI 还会把上一轮安全冲刺中摸索出来的技术架构、踩坑经验,以及一套赋能网络防御者的行动蓝图公开发布,直接给其他组织做参考。

为什么重要

我们认为,OpenAI 这次最聪明的地方,在于把安全重心从抽象的「模型对齐」拉回到了最硬核的工程防守上。

当大模型越来越多地接入核心业务和底层工具,AI 系统本身已经变成了最诱人的攻击靶子。面对可能同样使用 AI 的攻击者,防守方如果还在用纯人工的方式肉搏,被攻破只是时间问题。OpenAI 靠全员冲刺加上自研模型辅助,是在拿真实的业务代码给 AI 自动化防御趟路。

对安全从业者和白帽子来说,严重漏洞赏金翻四倍具有极强的号召力,而 Daybreak 提供的 10 亿美元算力补贴,也能让平时预算吃紧的一线防御团队用上前沿模型。

不过,这种做法并非没有隐患。当系统扫描和补丁编写越来越依赖大模型,模型本身的盲区、偶发的幻觉,会不会在修补老漏洞的同时引入更隐蔽的新风险,目前依然没有定论。看起来,AI 攻防战已经从理论探讨变成了真正的重火力对轰,人类专家的最终把关门槛反而被拔得更高了。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选