跳到正文
IFAI

產業動態

OpenAI 升級安全體系:最高漏洞賞金提至 10 萬美元,加碼智慧體防禦

首次發布 傳播指數 37

OpenAI 宣佈升級安全舉措。官方將關鍵漏洞最高賞金從 2 萬提高至 10 萬美元,並擴大網路安全資助計劃。針對 Operator 等智慧體面臨的提示注入威脅,OpenAI 正聯合紅隊實戰與 AI 驅動防禦加固系統。

OpenAI 升級安全體系:最高漏洞賞金提至 10 萬美元,加碼智慧體防禦
圖:openai.com

當一家公司的周活躍使用者突破 4 億,駭客盯上的就不只是普通的伺服器,還有底層模型和核心程式碼。

OpenAI 最近公佈了他們在安全防護上的最新動作,把通向通用人工智慧路上的防禦底牌一次性亮了出來。

挖出重大漏洞,最高獎勵翻了 5 倍

最直觀的變化是白帽駭客的獎勵提高了。

OpenAI 把重大安全漏洞的最高賞金從 2 萬美元一口氣拉到了 10 萬美元,足足翻了 5 倍。

除了大幅提高常規漏洞的上限,他們還推出了限時獎勵活動,在特定分類裡提交合格報告還能拿到額外的獎金補貼。

針對學術界和獨立研究者,OpenAI 兩年前啟動的網路安全資助計劃也迎來了擴容。

過去兩年裡,他們累計稽核了超過 1000 份申請,給 28 個研究專案提供了資金,深入研究了提示詞注入、安全程式碼生成和自主防禦等前沿難題。

這次他們不僅擴大了資助範圍,還新增了提供 API 額度的微型資助,讓研究人員能以更低的門檻快速驗證自己的點子。

新一輪資助的重點方向很明確,集中在軟體漏洞自動修補、模型隱私保護、高階威脅檢測、安全工具整合以及智慧體安全上。

自己給開源軟體找 Bug,還要盯緊自家的 Agent

防禦不僅靠花錢請外部人員挑刺,OpenAI 自己也開始拿 AI 大模型當防守武器。

他們利用自研模型自動檢測和修補程式碼漏洞,在公開基準測試上拿到了前列的分數。

更值得一提的是,他們已經利用模型在開源軟體程式碼裡挖出了一些安全漏洞,目前正按照行業規範,陸續向相關開源專案方進行安全披露。

對於內部基礎設施,OpenAI 找來了安全機構 SpecterOps,在企業內網、雲端和生產環境中進行持續的對抗性紅隊測試。

前段時間 OpenAI 員工遭遇了魚叉式釣魚攻擊,事後他們不僅加固了自身防線,還將掌握的攻擊手法和威脅情報共享給了其他 AI 實驗室,試圖推進行業協同防守。

面對 Operator 和 deep research 等具備自主行動能力的 Agent,安全邏輯變得更復雜了。

為了防範提示詞注入和越權操作,OpenAI 正在搭建一套統一的監控管線和模組化框架,對 Agent 的動作實施全鏈路即時攔截和行為審查。

甚至在針對下一代算力基礎設施 Stargate 的規劃中,他們也把零信任架構和硬體級防護提上了日程,要求物理安防和供應鏈安全必須跟上模型算力的擴張。

為什麼重要

對於開發者和企業使用者來說,4 億周活意味著海量的商業資料和敏感資訊正穿梭於 OpenAI 的基礎設施中。大幅提高賞金、收緊紅隊測試,能讓企業更有信心去嘗試 Operator 這種能代替人類操作的自主智慧體。不過我們認為,普通開發者不必盲目迷信這些防護承諾,畢竟提示詞注入和複雜環境下的越權行為目前仍缺乏數學意義上的絕對防禦,把核心系統完全交給 Agent 依舊需要保持足夠的邊界隔離。

在行業層面,OpenAI 把最高賞金拔高到 10 萬美元,實質上是在向同行施壓,拉高了整個前沿 AI 領域的安全及格線。頂級安全研究員的精力是有限的,出價更高的生態自然能吸引更多白帽駭客駐守。與此同時,OpenAI 主動將捕獲的攻擊情報共享給其他實驗室,看起來也說明前沿 AI 的攻防對抗已經超出了單一公司的承受範圍,聯合防禦正在變成行業剛需。

就具體做法而言,我們覺得這一套組合拳打得相當精明。OpenAI 沒有停留在發白皮書的層面,而是把真金白銀給到安全社群,同時順手用自家模型給開源生態掃雷,既展示了模型修補程式碼的技術實力,又為自身建立了行業信譽。但潛在的隱患在於,隨著 Agent 融入更多現實工具和軟體呼叫鏈,攻擊面被數倍放大,這套即時的監控管線能否在不犧牲響應速度的前提下兜住底線,仍然需要經受真實網路攻擊的長期考驗。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選