跳到正文
IFAI

大模型

OpenAI 移除 ChatGPT 橙色內容警告:減少莫名拒絕,給模型鬆綁

首次發布 傳播指數 46

OpenAI 宣佈移除 ChatGPT 介面中提示潛在違規的橙色警告框。官方表示此舉旨在減少不必要的拒絕和過度審查感,只要不違法或造成傷害,使用者可更自由地使用。核心違規內容依然會被拒,不過敏感話題的處理正逐漸放寬。

OpenAI 移除 ChatGPT 橙色內容警告:減少莫名拒絕,給模型鬆綁
圖:techcrunch.com

如果你平時常用 ChatGPT 寫點虛構故事,或者聊聊沉重一點的現實話題,大機率見過那個扎眼的橙色警告框。哪怕你的提問毫無惡意,系統也會彈出一行字,提醒你可能踩到了使用條款的紅線。

現在 OpenAI 打算把這些煩人的警告撤掉了。2 月 13 日,OpenAI 宣佈移除 ChatGPT 介面中提示內容可能違規的部分警告資訊。

再見,提心吊膽的橙色警告框

OpenAI 模型行為團隊的 Laurentia Romaniuk 在社交平臺 X 上表示,這次調整是為了減少那些無緣無故、讓人摸不著頭腦的拒答。也就是使用者輸入提示詞後,介面上有時會附帶跳出的橙色框。

她甚至在網上公開向網友徵集案例,問大家還遇到過哪些紅框、橙框,或者冷冰冰的抱歉我不能這類莫名其妙的拒絕。

ChatGPT 產品負責人 Nick Turley 也發帖稱,只要遵守法律且不傷害自己或他人,使用者理應能夠隨心所欲地使用 ChatGPT。他表示很高興能在介面中回滾這批不必要的警告。

放開了尺度,還是隻改了介面?

在此之前,介面上的過度攔截讓不少人叫苦不迭。就在幾個月前,Reddit 社群裡還有大量使用者反映,只要觸及心理健康、抑鬱情緒、成人擦邊內容或虛構作品裡的暴力橋段,提問就會立刻被掛上警告標記。

據社交平臺上的反饋以及媒體實測,在警告撤下後,ChatGPT 確實已經開始回答其中一部分之前被攔下的敏感提問。

但這絕不意味著 ChatGPT 徹底解禁了。官方表示,它依然會拒絕回答某些真正有害或令人反感的問題,也不會去支援顯而易見的荒謬言論,比如要求它證明地球是平的。

耐人尋味的是,各方的說法出現了一點分歧。在媒體報道釋出後,一位 OpenAI 發言人特意澄清稱,這次調整純粹針對介面提示,對模型底層的實際回答並沒有影響。因此不同使用者感受到的變化可能並不一致。

與此同時,OpenAI 本週還悄悄更新了規範模型行為的頂層規則集 Model Spec,明確要求模型不要回避敏感議題,並且避免做出武斷排除特定視角的絕對論調。

外界普遍認為這一系列舉措與政治壓力有關。包括馬斯克以及擔任白宮加密與 AI 負責人的 David Sacks 在內的多位保守派人士,曾多次公開炮轟主流 AI 審查保守觀點。Sacks 就曾直接點名 ChatGPT,指責其程式設定過於覺醒派,在政治敏感話題上不夠客觀。

為什麼重要

對於每天把 ChatGPT 當工作臺的文字創作者和研究者來說,這一改動最大的價值是鬆綁了心理負擔。以前稍微寫點犯罪小說的衝突場面,或者探討一下嚴肅的心理健康問題,都要提心吊膽等著被系統貼黃牌;現在少了這個礙眼的橙色框,至少互動體驗不再那麼戰戰兢兢。

我們認為,OpenAI 這一步走得相當圓滑。把警告框拿掉,順手更新規則承諾不迴避敏感議題,能在很大程度上衝淡外界對其過度審查和說教味太濃的指責,尤其可以緩解來自政界與右翼輿論的炮火。但發言人隨後又強調底層回答邏輯沒變,顯然是想在安全合規與輿論減壓之間走鋼絲。

然而這種做法也埋下了隱患。介面上的警告撤走了,底層模型的攔截邊界卻依然模糊,普通使用者很難分清到底哪些提問是被允許的,哪些依然會觸發暗中的限制。這種規則上的模稜兩可,很可能會讓創作者在後續使用中反覆試錯。

從行業來看,這件事標誌著主流大模型正在集體告別居高臨下的道德教師姿態。當各大廠商的技術差距逐漸收窄,誰家的 AI 廢話更少、更不隨意對使用者指手畫腳,誰就能在真實生產力場景中留下更多使用者。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

話題追蹤OpenAI 調整模型規範以減少過度審查

這個話題的歷次新聞,最新的在上面。

  1. OpenAI 放寬 ChatGPT 畫圖稽核:允許生成公眾人物肖像
  2. OpenAI 給 ChatGPT「鬆綁」:擁抱思想自由,爭議話題不再直接拒答
  3. OpenAI 移除 ChatGPT 橙色內容警告:減少莫名拒絕,給模型鬆綁本則
  4. OpenAI 更新 Model Spec:支援探討爭議話題,規範以 CC0 開源

每日 AI 內容精選