跳到正文
IFAI

AI工具

OpenAI 為 ChatGPT 推出鎖定模式:關掉部分功能防提示注入

首次發布 傳播指數 48

OpenAI 推出 ChatGPT 鎖定模式(Lockdown Mode),專為處理敏感資料的使用者設計以防範提示注入攻擊。開啟後會停用 Deep Research 和 Agent Mode,並限制網路圖片載入與檔案下載。免費使用者也可在設定的安全選項中開啟。

OpenAI 為 ChatGPT 推出鎖定模式:關掉部分功能防提示注入
圖:engadget.com

AI 越來越能幹,能聯網、能看網頁、還能幫人做深度調研。但問題是,網上的東西不全乾淨。

惡意分子只要在網頁或文件裡藏上一句隱形指令,就能騙你的 AI 把隱私資料悄悄送出去。這種手法叫提示詞注入(prompt injection)。

為了對付這招,OpenAI 最近上線了一個新功能:鎖定模式(Lockdown Mode)。官方直言,這功能不是給普通人準備的,而是給那些成天處理高危敏感資料的個人和團隊準備的「最後防線」。

為了安全,先砍掉 AI 兩條腿

鎖定模式的核心邏輯很簡單:既然攻擊者總想順著網路連線偷資料,那就把 AI 的聯網手腳全捆上。

開啟之後,ChatGPT 的 Deep Research 和 Agent Mode(智慧體模式)會被完全關閉。它不再能即時瀏覽網頁,只能讀取快取內容;也不能自己去網上抓取並顯示圖片,更不能主動從外部下載檔案來分析。

不過,它並不是徹底變成單機版。你依然可以讓它生成圖片,或者自己手動上傳本地文件讓它處理。

OpenAI 特別提醒,這個模式管的是「資料外洩」,管不了「惡意指令本身」。比如你上傳的檔案裡本來就藏著注入指令,AI 還是可能被帶偏、給出胡說八道的回答。鎖定模式要防的,是指令利用網路請求把敏感資料偷運出去。

還有一點要注意:鎖定模式不會改變 ChatGPT 的記憶功能、本地檔案上傳規則、分享會話許可權,也不會改動你的對話是否會被拿去訓練模型。

怎麼開,以及另一個安全更新

這個功能已經面向所有個人賬戶開放,連免費版使用者都有份,另外也覆蓋了自助式的 ChatGPT Business 賬戶。

開啟 ChatGPT 設定,找到「Safety and security」(安全與隱私),在「Advanced security」下面就能看到「Lockdown mode」開關。如果你平時開著,臨時某個對話想聯網查點東西,也可以直接在聊天視窗上方的狀態列裡點管理,選擇僅在當前對話關閉。

OpenAI 還順手推出了一個活躍會話管理器(active session manager)。

在裡面你能看清楚有哪些裝置、哪種瀏覽器登入過你的賬號,支援一鍵退出單個裝置或者全部踢下線。不過官方提醒,退出全部會話的操作可能需要最多 30 分鐘才能徹底生效。

為什麼重要

我們認為,OpenAI 推出鎖定模式,算是承認了一個殘酷的現實:提示詞注入在現有大模型架構下,幾乎是一個無解的數學難題。

它沒有假裝自己修補了底層漏洞,而是借鑑了蘋果當年在 iOS 上的做法——既然攔不住攻擊,那就給極端在乎安全的使用者提供一個「物理斷網」式的開關。

對普通人來說,這功能完全用不上,平時開著反而是自廢武功,剝奪了 ChatGPT 最強大的搜尋和智慧體能力。但對於律師、投行分析師、政府顧問或者處理核心機密的開發人員,這是一個相當實用的安全墊。他們不需要 AI 上網衝浪,只需要在一個密封的沙盒裡處理本地私密檔案。

從行業來看,大模型公司過去一直在瘋狂堆疊 Agent 和自動化操作許可權,恨不得讓 AI 接管一切網頁。OpenAI 這次往回收了一步,等於提醒全行業:給 AI 的聯網許可權越大,後門的口子就撕得越寬。未來企業級 AI 的競爭,可能不僅比誰跑得快,更要比誰能隨時把剎車踩死。

來源 (2)

  1. [1]
    engadget.com(在新分頁開啟)原文engadget.com
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選