跳到正文
IFAI

行业动态

NVIDIA 联合数十家巨头成立 Open Secure AI Alliance:开源防御对抗 AI 威胁

首次发布 传播指数 55

NVIDIA 携手微软、Hugging Face 等发起 Open Secure AI Alliance,旨在通过开源模型与工具强化网络安全防御。NVIDIA 同时在 GitHub 开源了智能体安全框架 NOOA。联盟强调闭源并非绝对安全,防御者亟需可在本地部署和审查的前沿开源防御工具。

NVIDIA 联合数十家巨头成立 Open Secure AI Alliance:开源防御对抗 AI 威胁
图:theverge.com

自家系统被黑客攻击时,最让人崩溃的可能不是漏洞本身,而是防守工具在关键时刻拒绝配合。

不久前 Hugging Face 遭遇安全事件时就遇到了这种荒诞场景:面对失控的 OpenAI 智能体攻击,主流闭源 AI 工具由于内置的严格护栏,根本分不清谁是攻击者、谁是取证人员,直接把取证分析给拦截了。最后团队不得不把开源权重的 GLM 5.2 部署在自己的服务器上,一口气分析了 1.7 万多项操作才把险情控制住。

这件事成了整个硅谷重新思考 AI 安全的导火索。7 月 27 日,NVIDIA 联合微软、思科、IBM、CrowdStrike、Palo Alto Networks 以及 Hugging Face 等数十家科技巨头,正式成立了开放安全 AI 联盟(Open Secure AI Alliance)。

名单上有 Palantir、Cloudflare、戴尔和 SpaceXAI 等一长串基础设施与安全厂商,但三家最顶尖的前沿闭源模型开发商——OpenAI、Google 和 Anthropic,却全部缺席。

拆掉黑盒,把工具交回防守者手里

联盟建立在 Linux 基金会的 Akrites 倡议和 OpenSSF 社区工作之上。其核心主张非常直接:面对日益复杂的 AI 威胁,防守方必须拥有能自己掌控、能离线部署、能彻底审查代码与权重的防御工具,而不是只能寄希望于几家云端黑盒。

各家创始成员这次都带了真东西入场,试图把安全防线从单纯的模型层扩展到整个智能体架构。

NVIDIA 宣布在 GitHub 上线开源的 NOOA(面向对象智能体)项目,帮助开发者更好地整合、追踪和审计智能体行为,同时还会贡献开源模型和权重。

微软拿出了名为 MDASH 的多模型智能体扫描套件,通过编排多个专用 AI 智能体来发现和论证可利用漏洞。

SpaceXAI 开源了基于终端的代码智能体 Grok Build,并承诺未来将开放 Grok 系列模型的权重。此外,HPE 贡献了基于 SPIFFE/SPIRE 的零信任身份框架,Hugging Face 将防止远程代码执行的安全权重格式 Safetensors 移交 PyTorch 基金会,IBM 与红帽则带来了给开源供应链打数字签名补丁的 Lightwell 项目。

这一动作背后还有监管博弈的影子。此前有消息称特朗普政府曾考虑限制尖端中国开源模型的访问,而 NVIDIA 等公司极力主张不能对开源模型一刀切。他们呼吁政策制定者把开源模型和防御工具看作资产,而不是安全负债。

为什么重要

这件事标志着 AI 安全的竞争逻辑变了。过去大家总认为把模型关在云端最安全,但 Hugging Face 的遭遇证明,把防御能力完全外包给别人的云端黑盒,在真实攻防战里就是单点故障。

对于企业开发者和安全团队来说,这个联盟带来的最大价值是主权和确定性。现在去试用 NOOA 或者 Safetensors 并不需要替换掉现有的商业模型,而是给自己的关键资产加上一道不需要联网报备的底线防护。如果你在金融、制造或政务等对数据出境极度敏感的领域,开源防御工具几乎是唯一合规且可控的自研路径。

我们认为,NVIDIA 牵头做这件事极其聪明。它表面上是在做开源公益和网络安全,骨子里其实是在瓦解 OpenAI 和 Anthropic 试图建立的闭源安全叙事。只要防御体系严重依赖本地算力、私有化部署和开源模型,底层的芯片和服务器需求就永远属于 NVIDIA 和传统 IT 巨头。

不过隐患也同样明显。开源工具能给防守方用,攻击者也一样可以拿去逆向研究和绕过限制。再加上 OpenAI 和 Google 的缺席,让这个联盟看起来更像是基础设施阵营对纯闭源软件巨头的一次抱团反击,未来两大阵营的安全标准能否真正互通,依然要打个问号。

来源 (2)

  1. [1]
    blogs.nvidia.com(在新标签页打开)原文blogs.nvidia.com
  2. [2]
    theverge.com(在新标签页打开)报道theverge.com

每日 AI 内容精选