跳到正文
IFAI

AI工具

OpenAI 為 ChatGPT 推出鎖定模式:斷網防提示詞注入,個人版也能用

首次發布 傳播指數 40

OpenAI 宣佈將「鎖定模式」(Lockdown Mode)拓展至 ChatGPT 個人與商業版。開啟後會停用即時聯網、Agent 模式、深度研究及檔案下載,只允許訪問快取,防範提示詞注入攻擊導致的資料洩露;同時對高風險功能打上「Elevated Risk」標籤。

OpenAI 為 ChatGPT 推出鎖定模式:斷網防提示詞注入,個人版也能用
圖:openai.com

如果你用過 iPhone 上的「鎖定模式」,大概知道那是蘋果給政要、記者和極客準備的終極護甲:寧可關掉一堆好用的功能,也絕不給駭客留半點縫隙。現在,OpenAI 也把這套邏輯搬進了 ChatGPT。

面對越來越防不勝防的提示詞注入攻擊,OpenAI 正式推出了「鎖定模式」(Lockdown Mode)以及統一的「高風險」(Elevated Risk)功能標籤。這項功能最初面向企業、教育、醫療等機構使用者開放,隨後推廣到了個人賬戶和自助商業版賬戶。個人使用者只要在設定裡的安全選項中,就能一鍵開啟。

寧可變笨,也要防住「內鬼」

AI 越能幹,手伸得越長,出事的機率就越大。只要讓它連上網、讀外部網頁或呼叫第三方應用,駭客就可能在網頁裡藏一段惡意指令,誘騙 AI 把你的聊天記錄或敏感資料偷偷傳到外部伺服器,這就是業內頭疼的提示詞注入與資料外洩。

鎖定模式的核心邏輯非常粗暴:把所有可能洩露資料的通道統統掐死。一旦開啟,ChatGPT 的聯網瀏覽將嚴格限制在快取內容以內,絕不讓任何即時網路請求離開 OpenAI 的受控網路。

除此之外,一系列高階聯網功能會被直接關閉。這包括即時網路訪問、回覆中的圖片支援、包含購物研究在內的深度研究模式、智慧體模式(Agent Mode)、Canvas 的網路連線功能、即時聯結器以及檔案下載。說白了,只要系統無法給出確定性的安全保障,這項功能就乾脆不給用。

對於企業管理員,系統還提供了更細緻的權衡空間。管理員可以按角色開啟鎖定模式,並具體挑出哪些工作流必需的應用和操作可以例外保留,同時配合合規日誌介面來追蹤資料流動。

給危險功能貼上警告黃標

除了鎖定模式,OpenAI 還在 ChatGPT、ChatGPT Atlas 和程式碼助手 Codex 中引入了統一的「高風險」標籤。

比如在 Codex 裡,開發者可以允許模型聯網去查閱技術文件,但這本身就伴隨著外部程式碼注入的風險。現在,這類涉及網路穿透或潛在外部互動的設定介面上,都會明確標出「Elevated Risk」,並講清楚到底有什麼風險、什麼時候才建議開啟。

OpenAI 表示,這些標籤不是永久的。隨著底層安全防禦技術跟上、風險被有效化解後,對應的標籤就會被摘下。

為什麼重要

我們認為,這是 AI 安全策略走向務實的一個分水嶺。過去廠商總喜歡向用戶許諾一個無所不能、隨時隨地調取外部一切工具的超級智慧體,但現實很骨感,只要基礎架構上無法徹底解決提示詞注入,任何聯網動作就都是帶毒的蛋糕。

對使用者來說,如果你只是日常寫寫郵件、潤色文案,完全沒必要開啟鎖定模式,否則大半好用的功能直接癱瘓。但如果你是公司高管、法務、安全人員,或者正在把商業機密和核心程式碼餵給模型做分析,這個開關就是不可多得的防火牆。它明確告訴你:在這裡,安全重於便利。

從行業角度看,OpenAI 的做法等於是向全行業承認,現階段的大模型在面對提示詞注入時並沒有靈丹妙藥。與其假裝防禦天衣無縫,不如老老實實把選擇權和知情權還給使用者。這種把功能閹割包裝成安全特性的做法雖然顯得有些無奈,但在企業級市場,往往正是這種確定性的保守策略,才能真正讓大客戶放心地把敏感業務搬上臺面。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選