ChatGPT 遇到特定人名直接罷工：為防誹謗訴訟硬編碼攔截

給一個聊天機器人發個普通人名，它不僅不回答，還當場把對話掐斷、報錯宕機。聽起來像什麼惡搞彩蛋，但在 ChatGPT 上，這事是真實發生的。

最近 Reddit 和社交媒體上的網友發現，只要在對話方塊裡敲入某些特定名字，ChatGPT 就會直接卡殼。Ars Technica 實測確認，機器人會直接彈出一句無法生成回答或者生成出錯，隨後徹底終止這次會話。

哪些名字成了不能說的秘密

這串神秘名單裡最早被盯上的是 David Mayer。網友發現這個名字能百分之百讓對話宕機，不過在報道釋出前不久，OpenAI 已經悄悄把這個名字的限制解除了。

但隨後媒體和網友順藤摸瓜，挖出了更多名字。404 Media 發現哈佛法學教授 Jonathan Zittrain 和喬治華盛頓大學法學教授 Jonathan Turley 同樣能觸發崩潰。

目前社群整理出來的名單還包括 Brian Hood、David Faber 以及義大利資料保護機構官員 Guido Scorza。在報道看來，去年澳大利亞市長 Brian Hood 針對 OpenAI 的誹謗指控訴訟，很可能就是這套封禁名單的源頭。

不過，這個攔截並不是在底層模型裡抹除了這些詞。測試發現，這些名字只在 ChatGPT 的網頁和客戶端介面生效，如果通過 OpenAI 的 API 介面或者面向開發者的 Playground 呼叫，模型依然可以正常處理和輸出。

粗暴但管用的硬編碼剎車

說白了，ChatGPT 根本不是一個單純的大模型加前端殼子，它外層套著厚厚的內容過濾器。這次觸發崩潰的，就是一道硬編碼的輸出過濾器。

每當模型生成的文本里即將出現這些特定敏感名字時，這道安全網就會強行踩剎車，在內容送到使用者螢幕之前把它直接掐斷。

OpenAI 這麼做，目的很現實，就是為了防止 AI 幻覺惹上誹謗官司或公關麻煩。大模型經常信口開河編造事實，一旦把某個真實存在的人物造謠成罪犯，法務風險立刻就會找上門。

類似的操作之前也出現過。2023 年 11 月谷歌研究人員發現，讓 ChatGPT 永遠重複某個詞就能誘導它吐出原始訓練資料。OpenAI 隨後也是簡單粗暴地下了一道死命令，直接禁止模型無限重複同一個詞。

為什麼重要

對普通人來說，這提醒了我們一件事：你看到的 ChatGPT 輸出，並不是模型最純粹的原本思考，而是被層層過濾後的產物。如果你在寫文稿或做調研時突然發現會話莫名崩潰，很可能不是網路壞了，而是你不小心踩中了 OpenAI 的黑名單。

從行業和技術角度來看，這種做法看起來實在算不上優雅。作為一個估值極高的前沿 AI 巨頭，面對模型幻覺帶來的誹謗風險，最終拿出來的解法居然和二十年前論壇遮蔽敏感詞的硬編碼沒什麼兩樣。

我們認為，這種防禦手段暴露出底層技術在精準對齊上的無力。要在模型權重裡徹底教會 AI 別對某個人造謠，成本極高甚至目前根本做不到；而在輸出層粗暴截斷，雖然零成本解決了被起訴的燃眉之急，卻把破損的產品體驗直接甩給了使用者。

更讓人擔憂的是透明度。OpenAI 並沒有公開過這份名單，也沒有在介面上提示使用者觸碰了法律過濾，而是偽裝成系統報錯。這種把法務補丁偽裝成網路故障的做法，只會讓外界對這家公司的安全邊界到底劃在哪裡產生更多疑問。