美政府联手微软 OpenAI：首次演习关键 AI 系统遭黑客攻击

以前黑客入侵服务器，运维和网安团队按着应急手册拔网线、修补丁、查日志，流程已经很成熟。但如果被攻击的不是普通数据库，而是一个正在跑核心业务的 AI 模型呢？

上周，美国网络安全和基础设施安全局旗下的联合网络防御协作组织，在微软位于弗吉尼亚州雷斯顿的办公室里，悄悄搞了一场历时 4 个小时的闭门演练。这是美国官方和科技巨头第一次针对关键 AI 系统开展网络攻击模拟演练。

闭门室里坐了 50 多位专家，除了美国官方和部分国际政府机构代表，还把 OpenAI、微软、英伟达、亚马逊 AWS、Palantir 以及 Palo Alto Networks 等公司的技术核心拉到了同一张桌子上。

传统网安的剧本，管不住 AI

按照桌面演练的惯例，官方没有公开这次到底模拟了什么样的攻击场景。但演练的目的很明确：摸清眼下已经出现的威胁，并且推演未来黑客利用 AI 可能搞出什么样的新型攻击路径。

参与演练的专家直言，AI 系统一旦遭遇攻击，传统的网络安全剧本根本不够用。普通软件被攻击，问题通常出在代码漏洞上，修好就行；而针对 AI 系统的攻击，可能是模型权重被篡改、训练数据被投毒，或者是利用提示词注入诱导 AI 越权执行指令。

联合网络防御协作组织副主任 Clayton Romans 提到，随着新技术走向主流，安全防护往往被甩在后面，等到黑客跟进时企业经常措手不及。更麻烦的是，黑客不仅在攻击 AI，还在利用 AI 加速攻击流程、扩大破坏规模。

除了摸索技术防线，这次演练还有一个极具现实意义的收获：搞清楚出事时该给谁打电话。Romans 坦言，演练帮官方摸清了私营企业里到底谁负责 AI 安全应急，也让科技巨头们在出事时知道该对接政府的哪个部门。

演练总结出的经验，将被写入该机构计划在年底前发布的 AI 安全事件应急响应指南。而在指南正式公布之前，他们还打算再搞一场演练。

为什么重要

我们认为，这场 4 小时的闭门演练，最聪明的地方在于把假想敌演习变成了建通讯录。AI 行业这两年跑得太快，技术栈日新月异，导致很多大厂内部连 AI 安全出事该归算法团队管还是归传统安全部门管都没理顺，更别提跨企业、跨政企的协同了。

对企业和开发者来说，这意味着 AI 安全正在从实验室攻防变成合规必答题。如果你的业务深度接入了生成式 AI 或自主智能体，年底官方安全指南出台后，可能很快就会面临新的安全审查与应急流程要求，现在就该清查自己的接口与模型调用权限。

不过，这场演练的隐患也很明显。仅仅 4 个小时的桌面推演，参与的都是掌握顶尖资源的大型科技巨头，而现实中绝大多数 AI 应用部署在防御能力极差的中小企业甚至个人开发者手中。只要攻击者通过开源生态或第三方插件渗透，大厂建起的防波堤很容易被从薄弱环节绕过。光靠几家巨头坐在一起推演，还远远谈不上真正构筑起 AI 防线。