跳到正文
IFAI

行业动态

OpenAI 发布网络安全行动计划:提五大支柱用 AI 普及网络防御

首次发布 传播指数 37

OpenAI 发布网络安全行动计划,针对恶意利用 AI 发动攻击的风险,提出协助美国及其盟友加强数字防御。该计划包含普及网络防御、政企协同等五大支柱,核心是向守方开放防御工具,并强化前沿模型自身的安全管控。

OpenAI 发布网络安全行动计划:提五大支柱用 AI 普及网络防御
图:openai.com

现在黑客用 AI 写钓鱼邮件、扫系统漏洞,门槛已经被踩到了地板上。

面对这种攻防失衡,OpenAI 在 4 月 29 日发布了一份网络安全行动计划,专门讨论怎么用 AI 来帮防守方加固防线,重点面向美国及其盟友的关键网络。

这份计划并不是闭门造车,而是 OpenAI 和美国联邦、州政府官员以及多家商业网络安全机构深入沟通后的产物。

拿 AI 给防守方递武器

OpenAI 承认,同样的 AI 能力,防守方拿来找漏洞、自动修补和快速响应,攻击者也能拿来放大攻击规模并降低犯罪门槛。

为了不让防守方落后,OpenAI 把接下来的动作拆成了五大支柱。

第一是网络防御普惠化。说白了,就是把顶尖的 AI 防御工具交到更多受信主体手里,不能只有大企业用得起。

第二是政企协同。OpenAI 打算和政府、行业机构建立更紧密的协调机制,情报互通、联合应对威胁。

第三是加固前沿网络能力本身的安全性。随着模型越来越聪明,它自身的代码执行和系统漏洞挖掘能力,本身就要严加看管。

第四是在部署中保持可见度和控制权。AI 到底干了什么、怎么运行的,必须随时查得清、管得住。

第五是赋能普通用户。通过工具和教育,让个人用户在面对 AI 驱动的新型钓鱼和诈骗时,也能自己防身。

OpenAI 表示,接下来要深化现有投入,专门搭建支持网络防御者的基础设施,让整个社会的防御韧性跑在攻击者前面。

为什么重要

我们认为,OpenAI 这次发布的计划,本质上是在给自己的前沿模型找一张最硬的合规通行证。

对普通人和企业来说,AI 时代的网络攻击最让人头疼的地方,在于攻击者可以用极低成本搞无差别轰炸,而防守方的响应总是慢半拍。如果 OpenAI 能把漏洞检测和自动修复能力做成低门槛的基础设施,中小团队和普通个人确实能省去不少安全焦虑,这非常值得保持关注。

但从行业竞争和政策角度看,这一步走得相当精明。OpenAI 没有单打独斗,而是拉着联邦和州政府背书,把自己死死绑定在国家安全和盟友关键防线的叙事里。

只要在防御体系里扎得足够深,监管机构在出台严厉的大模型限制政策时就会投鼠忌器,对手也很难在关键基础设施领域轻易切入。

不过隐患依然摆在台面上。能够自动修补漏洞的模型,反过来也就是一台极其高效的漏洞挖掘机。OpenAI 承诺的可见度和权限控制到底能不能彻底防住内部滥用和恶意逆向工程,目前还没有给出具体的工程细节。把钥匙交到防守方手里之前,怎么确保钥匙不被偷走,才是真正的考验。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选