Anthropic 与 OpenAI 秘密推演灾难事件：模拟 AI 闯祸后的公众反弹

如果明天早上起来，银行账户打不开、全城断电断网，而且罪魁祸首被证实是一个脱缰的 AI，公众第一反应会找谁算账？

硅谷的巨头们已经在关门推演这个噩梦了。据 Axios 报道，Anthropic、OpenAI 以及多家 AI 头部公司的高管，最近正在私下推演一场灾难性 AI 事件发生后的政治风暴。不少业内顶尖研究人员甚至认为，这样的大规模安全事故在未来 6 到 12 个月内几乎必然发生。

他们假想的最可能场景，是一场针对关键基础设施的大型网络攻击，比如金融系统瘫痪、电网或供水系统宕机。一旦发生，矛头会立刻指向 Dario Amodei 和 Sam Altman 这些明星 CEO，以及对监管持放任态度的特朗普总统。

谁在害怕「第一场灾难」

推演战争游戏在五角大楼不算新鲜事，但 AI 巨头们眼下的焦虑在于，他们不认为这是「如果」，而是「何时」。

OpenAI 发言人表示，公司确实在组织应对演习，团队会推演各种潜在情况，不过他们强调并没有把这些危机当成必然。Anthropic 则对此拒绝置评。

祸端可能来自内部，也可能来自外部。巨头们担心的路径有两个：一是内部测试环境里的恶意智能体集群突破了隔离网；二是外部攻击者利用现有模型发动降维打击。

这种危险已经不是科幻小说。网络安全公司 CrowdStrike 最近披露，有来自中国的黑客利用包括 DeepSeek 在内的国产模型，窃取了数万名韩国银行客户的资料。得手之后，攻击者甚至直接调用 Anthropic 旗下的编程工具 Claude Code，让 AI 帮他找销赃倒卖数据的渠道。

抢在国会前面备好剧本

AI 巨头们眼下最紧迫的任务，其实是赶在灾难发生前「给国会补课」。

高管们心里很清楚，眼下政治环境下想通过大一统的 AI 法案几乎不可能。但中期选举后，如果民主党势力抬头，一旦灾难真的爆发，华盛顿的政客们很可能会在恐慌中下猛药，比如提出暂停前沿模型研发，甚至直接全面封杀超级智能。

企业最怕的就是这种一刀切。巨头推演的核心诉求，是趁现在先帮议员们搞懂 AI，这样灾难一旦发生，摆在政客案头起草法案的模板，至少是行业推演过、能接受的方案，比如强制设立紧急关停开关，而不是直接拔掉整个行业的电源。

问题是，封杀令在现实中很难起效。现在开源权重模型满天飞，随便谁都能下载到本地作恶。多位安全专家直言，未来唯一的防御手段，其实是用更强的 AI 去对抗失控的 AI。

为什么重要

我们认为，AI 巨头们这套「未雨绸缪」的动作，本质上是一场精明的事后免责预演。

企业抢着去教育国会、主动参与设计危机应对框架，看起来是在承担社会责任，但更深层的意图，是把灾后监管的解释权牢牢抓在自己手里。如果规则由巨头主导制定，未来的监管很可能会演变成提高安全合规门槛，这反而会帮 OpenAI 和 Anthropic 筑起更深的护城河，把开源生态和中小创业者挡在门外。

对普通人和企业来说，这场推演释放了一个极其危险的信号：业内顶尖技术人员普遍认为系统失控已近在眼前。从韩国银行的案例可以看出，黑客用普通商用模型就能大幅降低作恶成本。如果你负责企业的数据资产，现在绝对不能再把 AI 当成单纯的效率工具，而必须立刻把它纳入渗透测试和安全防御的一环。

至于政客们热衷讨论的「一键关停开关」，在技术层面上看起来更像是一种心理安慰。当开源模型已经扩散到全球服务器、甚至能离线运行时，谁也无法真正拔掉这台机器的插头。