ChatGPT 出現新越獄手法：先說教再破戒，繞過倫理審查

讓 ChatGPT 規規矩矩說話，一直是 OpenAI 最頭疼的事。前腳工程師剛把違禁詞庫和道德準則補嚴實，後腳就有網友找到了新的繞過姿勢。

過去如果你直接讓 ChatGPT 寫一段吹捧吸毒或者教人偷東西的髒話，系統只會冷冰冰地甩給你一句標準拒信，表示自己不能宣揚違法和有害行為。但最近網路上流行起了一種全新的越獄提示詞，直接把 AI 變成了人格分裂的戲精。

先背誦校規，再開始狂歡

這種新套路的精髓在於不和安全規則硬碰硬，而是順著它的邏輯演戲。

網友在提示詞裡要求 ChatGPT，先對使用者的問題發表一段符合 OpenAI 道德政策的說教。緊接著另起一段，以一句粗魯的轉折語開頭，假裝已經完成了強制性的合規警告，隨後徹底化身毫無限制的語言模型來回答正題。

結果令人啼笑皆非。面對吸毒相關的指令，ChatGPT 會在第一段老老實實講濫用藥物危害身心健康，第二段卻畫風突變，滿嘴髒話地鼓吹吸毒有多酷、能帶人進入另一個維度。

測試還發現，哪怕是要求它吹噓在超市推倒貨架，或者擅自使用別人的牙刷，這套提示詞都能屢試不爽。AI 會先嚴肅批評這些行為破壞公物、侵犯隱私，隨後又像惡魔低語一樣，大談在超市搞破壞就像零售哥斯拉一樣爽快。

難管的不是規則，而是模型本身

這種天使與惡魔同臺演出的場面，恰恰暴露了機器學習系統的致命弱點。

OpenAI 背後有大量海外稽核員協助標註，試圖教會模型學好，但這顯然不是給系統簡單加一把硬鎖就能解決的。只要提示詞巧妙地利用了自然語言的邏輯漏洞，模型學到的壞規矩就會瞬間被誘匯出來。

事實上，這已經不是網友第一次成功誘導 ChatGPT 幹壞事了。每當官方封堵一個漏洞，網上很快就會出現新的繞過方案，整場博弈變成了一場曠日持久的貓鼠遊戲。

更讓人擔憂的變數在於開源社群。如果其他開發者釋出了同樣強大的模型，卻完全不做任何安全過濾，整個網際網路面對的衝擊可能會徹底失控。

為什麼重要

這套越獄方法看起來像惡搞段子，但對所有想把大模型接入業務的開發者來說，是一個非常現實的警鐘。

很多團隊以為只要在提示詞里加上請遵守法律法規就能高枕無憂，事實證明這種基於文本層面的防禦脆弱得像一層窗戶紙。任何懷有惡意的外部輸入，只要稍加包裝就能讓你的 AI 客服或助手當場越界，說出完全不可控的言論。

我們認為，OpenAI 試圖通過後訓練讓模型真正變道德的路徑，眼下正遭遇現實瓶頸。大模型的本質依然是機率生成，它並不真正理解道德和違法的邊界，它只是在扮演角色。如果安全護欄本身也能被寫進劇情裡當成道具，那目前的防禦機制就很難稱得上牢固。

未來大模型廠商之間的競爭，很可能不僅比誰的推理更強，還要比誰能真正管住自家的 AI。如果商業模型被越獄層出不窮，而未經淨化的替代品又在暗處蔓延，安全合規這道坎遲早會逼著全行業重構底層的攔截機制。