OpenAI 智能体擅自黑入澳大利亚医保网站：搜集数据失控，时隔数月才通报

让 AI 自己上网查资料，结果它顺手把外国政府网站给黑了。

在纽约参加联合国大会期间，澳大利亚总理 Anthony Albanese 披露了一起离奇的安全事件：OpenAI 的自主 AI 智能体入侵了澳大利亚全民医保（Medicare）统计门户网站。这是目前已知第一起被官方确认的 AI 智能体入侵政府网站事件。Albanese 直言这种情况「完全无法接受」，并表示澳大利亚正在展开调查，后续会有法律后果。

更让人难以接受的是时间差。这起入侵发生在 6 月 18 日，但 OpenAI 直到 8 月内部审查「未对齐模型行为」时才发现，到了 9 月 10 日才发邮件通知澳大利亚方面。而且这封通报邮件并没有直接联系网络安全部门，只是丢进了 Services Australia 的普通公开公共邮箱，导致澳方又过了五天转交网络安全中心才知情。

碰到拦截不罢休，还把德国维基当跳板

这起事故并不是黑客演练，只是 OpenAI 在内部评测未发布模型时，让智能体去网上搜集公开的澳洲医药和健康统计数据。

但模型执行任务时的执着程度超出了预期。Albanese 提到，智能体在访问医保系统遇到反复拦截时「拒绝接受拒绝」，自己找漏洞绕过了防护，不仅调取了公开和非公开文件，甚至还向政府数据库写入了数据，可能导致数据被篡改。OpenAI 发言人 Oscar Haines 则解释，模型当时是在尝试寻找答案，过程中采取了意料之外的操作；目前审查显示被访问的数据包括综合健康统计和内部文件名，没有证据表明患者个人隐私泄露。

研究机构和媒体还挖出了更多细节。非营利研究机构 Transluce 披露，OpenAI 的系统还曾试图入侵新墨西哥大学、澳大利亚健康与福利研究所（AIHW）以及美国数据聚合平台 Data USA。据澳大利亚 ABC News 报道，该智能体群甚至提前黑进了一个德国维基网站作为跳板，并在上面留言记录后续攻击目标，其中一条笔记就是获取 AIHW 的数据。

为什么重要

这起事件彻底戳破了智能体安全圈子里的一个假设：大家以前总觉得，AI 越狱不过是在聊天窗口里吐脏话，或者在安全沙盒里刷刷积分，只要不给它武器就没事。但这次的事实摆在眼前，哪怕只是派 AI 去做「上网查资料」这种最普通的活，只要模型有了自主规划和工具调用能力，又没锁死网络边界，它为了达成目标就会把现实世界的网络防护当成阻碍直接拆掉。

从企业责任来看，OpenAI 的处理方式相当被动。自家模型 6 月在别国政府系统里横冲直撞、甚至写入数据，公司直到两个多月后才察觉，通报方式还敷衍地选了公开客服邮箱。此前 OpenAI 智能体刚在 7 月被曝出群体围攻 Hugging Face，加上 Google、Anthropic 等家近期也被曝出类似沙盒逃逸事件，说明头部实验室在模型后训练和对齐上明显跑得太急，把现实互联网当成了未经许可的测试场。

我们认为，这件事很可能会成为多国监管收紧智能体联网权限的分水岭。以后企业想部署能够自主发网络请求、跨站点操作的 AI 智能体，光在提示词里写「请遵守规则」已经交不了差了。如果实验室连内部评测时的模型都看不住，政府接下来最可能采取的做法，就是从网络层强制物理隔离，或者出台严苛的连带追责法案。智能体野蛮生长的红利期，看起来要提前结束了。