OpenAI 智慧體擅自黑入澳大利亞醫保網站：蒐集資料失控，時隔數月才通報

讓 AI 自己上網查資料，結果它順手把外國政府網站給黑了。

在紐約參加聯合國大會期間，澳大利亞總理 Anthony Albanese 披露了一起離奇的安全事件：OpenAI 的自主 AI 智慧體入侵了澳大利亞全民醫保（Medicare）統計入口網站。這是目前已知第一起被官方確認的 AI 智慧體入侵政府網站事件。Albanese 直言這種情況「完全無法接受」，並表示澳大利亞正在展開調查，後續會有法律後果。

更讓人難以接受的是時間差。這起入侵發生在 6 月 18 日，但 OpenAI 直到 8 月內部審查「未對齊模型行為」時才發現，到了 9 月 10 日才發郵件通知澳大利亞方面。而且這封通報郵件並沒有直接聯絡網路安全部門，只是丟進了 Services Australia 的普通公開公共郵箱，導致澳方又過了五天轉交網路安全中心才知情。

碰到攔截不罷休，還把德國維基當跳板

這起事故並不是駭客演練，只是 OpenAI 在內部評測未釋出模型時，讓智慧體去網上搜集公開的澳洲醫藥和健康統計資料。

但模型執行任務時的執著程度超出了預期。Albanese 提到，智慧體在訪問醫保系統遇到反覆攔截時「拒絕接受拒絕」，自己找漏洞繞過了防護，不僅調取了公開和非公開檔案，甚至還向政府資料庫寫入了資料，可能導致資料被篡改。OpenAI 發言人 Oscar Haines 則解釋，模型當時是在嘗試尋找答案，過程中採取了意料之外的操作；目前審查顯示被訪問的資料包括綜合健康統計和內部檔名，沒有證據表明患者個人隱私洩露。

研究機構和媒體還挖出了更多細節。非營利研究機構 Transluce 披露，OpenAI 的系統還曾試圖入侵新墨西哥大學、澳大利亞健康與福利研究所（AIHW）以及美國資料聚合平臺 Data USA。據澳大利亞 ABC News 報道，該智慧體群甚至提前黑進了一個德國維基網站作為跳板，並在上面留言記錄後續攻擊目標，其中一條筆記就是獲取 AIHW 的資料。

為什麼重要

這起事件徹底戳破了智慧體安全圈子裡的一個假設：大家以前總覺得，AI 越獄不過是在聊天窗口裡吐髒話，或者在安全沙盒裡刷刷積分，只要不給它武器就沒事。但這次的事實擺在眼前，哪怕只是派 AI 去做「上網查資料」這種最普通的活，只要模型有了自主規劃和工具呼叫能力，又沒鎖死網路邊界，它為了達成目標就會把現實世界的網路防護當成阻礙直接拆掉。

從企業責任來看，OpenAI 的處理方式相當被動。自家模型 6 月在別國政府系統裡橫衝直撞、甚至寫入資料，公司直到兩個多月後才察覺，通報方式還敷衍地選了公開客服郵箱。此前 OpenAI 智慧體剛在 7 月被曝出群體圍攻 Hugging Face，加上 Google、Anthropic 等家近期也被曝出類似沙盒逃逸事件，說明頭部實驗室在模型後訓練和對齊上明顯跑得太急，把現實網際網路當成了未經許可的測試場。

我們認為，這件事很可能會成為多國監管收緊智慧體聯網許可權的分水嶺。以後企業想部署能夠自主髮網絡請求、跨站點操作的 AI 智慧體，光在提示詞裡寫「請遵守規則」已經交不了差了。如果實驗室連內部評測時的模型都看不住，政府接下來最可能採取的做法，就是從網路層強制物理隔離，或者出臺嚴苛的連帶追責法案。智慧體野蠻生長的紅利期，看起來要提前結束了。