跳到正文
IFAI

產業動態

OpenAI 聯手 Cathedral 搞安全衝刺:嚴重漏洞賞金翻四倍

首次發布 傳播指數 59

OpenAI 宣佈將與安全機構 Cathedral 展開合作,啟動新一輪內部安全衝刺,利用自家模型排查系統弱點。官方同時把嚴重漏洞的懸賞金額拉高到原先的四倍以上,並承諾在半年內為一線防禦人員提供 10 億美元的模型使用補貼。

OpenAI 聯手 Cathedral 搞安全衝刺:嚴重漏洞賞金翻四倍
圖:interestingengineering.com

用 AI 找系統漏洞早就不是新鮮事,但拉來自家最聰明的模型、甚至請來外援聯手對自家系統「下死手」,OpenAI 這次顯然準備動真格的。

OpenAI 宣佈正在籌備新一輪內部安全衝刺。這次他們拉來了外部安全機構 Cathedral,雙方的研究人員將一起拿著 OpenAI 自家的前沿模型,對自家的防禦體系發起極限施壓,專門揪出那些藏在深處的系統弱點。

除了拉外援協同作戰,OpenAI 還給外部白帽子駭客們準備了真金白銀。官方宣佈大幅調整安全漏洞賞金計劃,把針對嚴重漏洞的懸賞金額直接拉高到原先的四倍以上。重賞之下必有勇夫,說白了,OpenAI 就是想用高額獎金把全球頂尖駭客的火力吸引過來,幫自己先找漏洞。

抽出 25% 的工程師,讓 AI 去查 AI

這套讓 AI 深度參與攻防的打法,其實在前一輪安全衝刺中就已經被驗證過。

當時 OpenAI 抽調了整整 25% 的產品工程師,全員撲在系統漏洞的挖掘和修復上。工程師們利用 Codex 在完全隔離的沙盒環境中調查線索、復現漏洞,並快速生成補丁程式碼提交人工審查。

在傳統安全模式下,找漏洞和修補往往是一場曠日持久的人力消耗戰。但 OpenAI 認為,現在整個行業面臨的網路威脅演進太快,單靠傳統的防禦手段已經遠遠不夠。一旦潛在攻擊者開始利用 AI 加速攻擊,留給防守方反應的時間視窗就會被極速壓縮,唯一的應對辦法就是建立持續的 AI 防禦迴圈。

拿出 10 億美元,把作業本抄給同行

光自己把門鎖好還不夠,OpenAI 還打算拉著產業界和政府一起築防線。

官方表示,正通過面向防禦者的 Daybreak 計劃,把最強模型的安全能力開放給更多客戶。OpenAI 承諾在未來六個月內,為保護關鍵基礎設施和數字服務的一線網路防禦人員提供高達 10 億美元的模型使用補貼。

與此同時,OpenAI 還會把上一輪安全衝刺中摸索出來的技術架構、踩坑經驗,以及一套賦能網路防禦者的行動藍圖公開發布,直接給其他組織做參考。

為什麼重要

我們認為,OpenAI 這次最聰明的地方,在於把安全重心從抽象的「模型對齊」拉回到了最硬核的工程防守上。

當大模型越來越多地接入核心業務和底層工具,AI 系統本身已經變成了最誘人的攻擊靶子。面對可能同樣使用 AI 的攻擊者,防守方如果還在用純人工的方式肉搏,被攻破只是時間問題。OpenAI 靠全員衝刺加上自研模型輔助,是在拿真實的業務程式碼給 AI 自動化防禦趟路。

對安全從業者和白帽子來說,嚴重漏洞賞金翻四倍具有極強的號召力,而 Daybreak 提供的 10 億美元算力補貼,也能讓平時預算吃緊的一線防禦團隊用上前沿模型。

不過,這種做法並非沒有隱患。當系統掃描和補丁編寫越來越依賴大模型,模型本身的盲區、偶發的幻覺,會不會在修補老漏洞的同時引入更隱蔽的新風險,目前依然沒有定論。看起來,AI 攻防戰已經從理論探討變成了真正的重火力對轟,人類專家的最終把關門檻反而被拔得更高了。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選