跳到正文
IFAI

產業動態

OpenAI 釋出網路安全行動計劃:提五大支柱用 AI 普及網路防禦

首次發布 傳播指數 37

OpenAI 釋出網路安全行動計劃,針對惡意利用 AI 發動攻擊的風險,提出協助美國及其盟友加強數字防禦。該計劃包含普及網路防禦、政企協同等五大支柱,核心是向守方開放防禦工具,並強化前沿模型自身的安全管控。

OpenAI 釋出網路安全行動計劃:提五大支柱用 AI 普及網路防禦
圖:openai.com

現在駭客用 AI 寫釣魚郵件、掃系統漏洞,門檻已經被踩到了地板上。

面對這種攻防失衡,OpenAI 在 4 月 29 日釋出了一份網路安全行動計劃,專門討論怎麼用 AI 來幫防守方加固防線,重點面向美國及其盟友的關鍵網路。

這份計劃並不是閉門造車,而是 OpenAI 和美國聯邦、州政府官員以及多家商業網路安全機構深入溝通後的產物。

拿 AI 給防守方遞武器

OpenAI 承認,同樣的 AI 能力,防守方拿來找漏洞、自動修補和快速響應,攻擊者也能拿來放大攻擊規模並降低犯罪門檻。

為了不讓防守方落後,OpenAI 把接下來的動作拆成了五大支柱。

第一是網路防禦普惠化。說白了,就是把頂尖的 AI 防禦工具交到更多受信主體手裡,不能只有大企業用得起。

第二是政企協同。OpenAI 打算和政府、行業機構建立更緊密的協調機制,情報互通、聯合應對威脅。

第三是加固前沿網路能力本身的安全性。隨著模型越來越聰明,它自身的程式碼執行和系統漏洞挖掘能力,本身就要嚴加看管。

第四是在部署中保持可見度和控制權。AI 到底幹了什麼、怎麼執行的,必須隨時查得清、管得住。

第五是賦能普通使用者。通過工具和教育,讓個人使用者在面對 AI 驅動的新型釣魚和詐騙時,也能自己防身。

OpenAI 表示,接下來要深化現有投入,專門搭建支援網路防禦者的基礎設施,讓整個社會的防禦韌性跑在攻擊者前面。

為什麼重要

我們認為,OpenAI 這次釋出的計劃,本質上是在給自己的前沿模型找一張最硬的合規通行證。

對普通人和企業來說,AI 時代的網路攻擊最讓人頭疼的地方,在於攻擊者可以用極低成本搞無差別轟炸,而防守方的響應總是慢半拍。如果 OpenAI 能把漏洞檢測和自動修復能力做成低門檻的基礎設施,中小團隊和普通個人確實能省去不少安全焦慮,這非常值得保持關注。

但從行業競爭和政策角度看,這一步走得相當精明。OpenAI 沒有單打獨鬥,而是拉著聯邦和州政府背書,把自己死死繫結在國家安全和盟友關鍵防線的敘事裡。

只要在防禦體系裡扎得足夠深,監管機構在出臺嚴厲的大模型限制政策時就會投鼠忌器,對手也很難在關鍵基礎設施領域輕易切入。

不過隱患依然擺在檯面上。能夠自動修補漏洞的模型,反過來也就是一臺極其高效的漏洞挖掘機。OpenAI 承諾的可見度和許可權控制到底能不能徹底防住內部濫用和惡意逆向工程,目前還沒有給出具體的工程細節。把鑰匙交到防守方手裡之前,怎麼確保鑰匙不被偷走,才是真正的考驗。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選