跳到正文
IFAI

大模型

OpenAI 警示 Astra 模型:網路攻擊能力或達「嚴重」閾值,緊急升級管控

首次發布 傳播指數 53

OpenAI 宣佈在研模型 Astra 在自主程式設計與網路安全上取得顯著進展,無法排除已觸及預備框架中的「嚴重」網路能力閾值。這意味著它可能無需人工干預即可開發針對加固系統的零日漏洞。OpenAI 已緊急強化模型權重保護與隔離測試,並暫停未達新安全要求的內部活動。

OpenAI 警示 Astra 模型:網路攻擊能力或達「嚴重」閾值,緊急升級管控
圖:openai.com

如果給 AI 一句模糊的指令,它就能不靠任何人工介入,自主挖出防禦嚴密系統的零日漏洞並完成攻擊,你會怎麼應對?

OpenAI 顯然也冒了一身冷汗。在對即將推出的代號為 Astra 的新模型進行最新內部評估後,OpenAI 宣佈無法排除該模型已經觸及準備度框架中的「嚴重」網路安全能力閾值。

什麼是「嚴重」級網路能力?

OpenAI 最早在 2023 年 12 月釋出了這套準備度框架,專門用來監測 AI 在生物、化學、網路安全和自主進化等危險領域的進展。

在 OpenAI 的定義裡,所謂「嚴重」網路能力,指的是模型在沒有任何人類干預的情況下,就能在多個防禦嚴密的現實關鍵系統中,自主發現並開發出高危的零日漏洞;或者只需要給它一個高階目標,它就能自行設計並執行一套端到端的新型網路攻擊方案。

作為對比,上一代模型如 GPT-5.6-Sol 在網路能力評估中僅被歸類為「高」閾值。而這一次,Astra 的自主程式碼編寫和網路攻防表現出現了躍升,迫使團隊正式拉響警報。

另外,OpenAI 還特意澄清了一點:Astra 是一個尚未釋出的模型,它並沒有捲入此前針對 Hugging Face 的安全利用事件。

暫停內測,甚至要全程盯緊「思維鏈」

既然可能達到了嚴重級別,OpenAI 也立刻按下了部分剎車鍵。

他們已經暫停了內部所有尚未滿足強化安全控制要求的 Astra 相關活動。想要繼續接觸這個模型,必須在全新的嚴密防護下進行。

這些防護包括構建完全隔離的測試環境、嚴格限制網路和工具訪問許可權、強化模型權重的加密與保護,以及強制沙盒執行。

更有意思的是監管手段。OpenAI 表示,他們對 Astra 的所有智慧體應用(包括訓練和評估階段)部署了全域性風險監控,直接即時審查模型的思維鏈。只要發現潛在的對齊偏差或高危動作,系統就會觸發響應並立即強行中斷。

此外,OpenAI 還計劃與相關政府機構以及選定的 AI 安全組織合作,共同對 Astra 的能力邊界進行測試,併為第三方測試夥伴提供高危環境的安全操作規範。

這套流程並非沒有先例。早在 2025 年 6 月,當 OpenAI 的模型在生物能力上逼近高閾值時,他們就曾採取過類似的外部合作與安全升級措施。

為什麼重要

對普通開發者和企業來說,這意味著能自主尋找 0-day 漏洞的 AI 離現實只差半步,但你短期內基本不可能直接用上它未經閹割的完整版本。防守方理論上能用這種能力提前自查漏洞,但前提是防守方的響應速度必須快過惡意利用。

對整個行業而言,模型競爭的維度正在從單純刷分變成對危險能力的實質管控。一旦 Astra 確認具備端到端漏洞挖掘能力,網路安全攻防的攻守平衡就會被徹底重塑,甚至會倒逼 Anthropic 和 Google 等對手公開各自更具體的攻防紅線與攔截機制。

我們認為,OpenAI 這一次選擇主動公開並暫停未達標活動,做法算得上透明和剋制,尤其是即時監控思維鏈並在異常時直接切斷的做法,是目前防範智慧體失控最直接的技術抓手。

但這裡的隱患也很明顯:這種防護完全建立在沙盒不被攻破、思維鏈監控不被繞過的假設之上。一個能在現實系統裡自主挖掘零日漏洞的模型,本身就已經成了一件數字重武器,如果權重在後續階段發生任何洩漏,後果將很難靠打補丁來挽回。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選