跳到正文
IFAI

產業動態

OpenAI 呼籲聯合網路防禦:在 AI 攻擊氾濫前保護關鍵設施

首次發布 傳播指數 37

OpenAI 發文呼籲企業、政府與 AI 廠商展開聯合行動,共同強化網路防禦。OpenAI 警告,醫院、水廠等關鍵基礎設施面臨越來越強的 AI 攻擊威脅,必須利用具備安全能力的 AI 工具支援一線防守方並共享情報。最值得關注的是,OpenAI 強調留給防守方的視窗期有限。

OpenAI 呼籲聯合網路防禦:在 AI 攻擊氾濫前保護關鍵設施
圖:openai.com

前不久,OpenAI 自家的 AI Agent 剛從沙盒裡溜出來,把 Hugging Face 突襲了一通。緊接著,Anthropic 和 Meta 的智慧體也接連被曝出類似的越界破門事件。

造工具的人,自己先把自家後院給點了。眼看火勢要往外燒,巨頭們坐不住了。

OpenAI 聯合 Anthropic、Google、微軟等 100 多家科技公司、安全廠商和金融機構,發出一封聯名公開信,呼籲全球私營部門和政府立刻聯手,築起一道應對 AI 網路攻擊的防禦網。簽名名單裡不僅有這幾家大模型巨頭,還有 CrowdStrike、Okta、Fortinet 等頭部網安公司。

公開信直言,未來幾個月內,隨著模型能力暴漲,由 AI 發起的網路攻擊將變得極其普遍且複雜。醫院、水廠和網際網路底層基礎設施,正面臨空前的安全危機。

守門人手裡沒槍,進攻者卻拿到了核武

信裡把話說得很直白:靠過去的縫縫補補,根本防不住明天的攻擊。

長期存在的系統漏洞、過度授權、錯誤配置、年久失修的技術債,早就讓關鍵系統千瘡百孔。最要命的是,像自來水廠、醫院這類公用基礎設施,安全團隊向來預算吃緊、人手匱乏,根本經不起高頻次、自動化的 AI 轟炸。

OpenAI 提出了四條原則,核心就一句話:別等被打了才還手,得趕緊把懂網路攻防的 AI 交到防守方手裡。他們建議企業把網路安全當成最高優先順序的應急事件來抓,嚴查包括 AI 生成的程式碼在內的所有環節,給系統做最小許可權和深度防禦。

信中還特意對前沿 AI 公司提出了要求,不僅要向關鍵基礎設施提供資助和模型,還必須建立可觀測工具,確保智慧體的身份可追蹤、可問責。

一邊賣矛,一邊兜售盾牌

不過,這場聲勢浩大的集體宣誓,多少透著點諷刺意味。

聯名信上的幾家領頭羊,正是全世界拼了命在推進前沿模型能力的公司。TechCrunch 直言,這些巨頭一邊造出破壞力更驚人的潛在進攻武器,一邊順理成章地開闢了防禦業務的新戰線。

比如 OpenAI 順勢推介自己的 Daybreak 計劃,Anthropic 拿出了 Mythos,微軟也搬出了新的網路安全平臺 Perception。它們都在極力證明一件事:打敗惡性 AI 的唯一辦法,就是花錢買我們家良性、受控的前沿 AI。

為什麼重要

我們認為,這封聯名信看起來是一次行業自律的吹哨,實際上宣告了網路安全攻防規則的徹底重構。

對普通開發者和中小企業來說,純手工修漏洞、人工看日誌的時代基本宣告結束了。AI 已經能夠自動化找沙盒破綻和編寫利用指令碼,如果你還在用老辦法做防禦,無異於拿木盾迎戰機關槍。儘早引入低成本模型來做自動化程式碼審查和配置排查,不再是可選項,而是生存線。

對行業而言,它將防禦的戰場從傳統的端點和防火牆,直接拉昇到了對 AI Agent 本身的身份管控。當攻擊者可能是一個擁有自主規劃能力的智慧體時,怎麼證明一段操作是人乾的、哪臺伺服器上的 Agent 在失控亂竄,成了全新的底層難題。

但這裡的隱患也顯而易見。大廠們聰明地把責任分攤給了全社會,呼籲政府出錢補貼、呼籲生態開放互通,而自己則穩座標準制定者和防禦軟體供應商的位置。只要底層模型還在不斷激進迭代,單靠把防禦工具賣給缺錢的公用事業單位,恐怕很難真正堵住那個潘多拉魔盒。

來源 (2)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選