OpenAI 談 ChatGPT 行為準則：擬開放個性化定製並引入公眾監督

如果你的 AI 助手突然在政治話題上和你抬槓，或者該回答的時候一本正經地拒絕，你肯定會懷疑是背後的工程師在搞鬼。

面對滿天飛的偏見爭議，OpenAI 專門發文挑明瞭底層邏輯：AI 展現出的偏見是 bug 而不是故意設計的 feature。他們同時公佈了接下來如何管束 ChatGPT 的行動方案。

訓 AI 像訓狗，規矩每週都在改

OpenAI 解釋說，訓練大模型並不像傳統軟體那樣寫死邏輯，過程其實更像訓狗。

第一階段是預訓練，模型吞下海量網頁文本，學會了語法、常識和推理，但同時也把網際網路上的各種偏見囫圇吞棗地學了進去。

第二階段是微調，人類稽核員登場。稽核員根據 OpenAI 提供的準則給模型的各種回答打分，模型據此學習人類的偏好。

OpenAI 透露，他們和稽核員保持著每週溝通的機制，隨時解答疑惑、微調指引，並明確要求稽核員在爭議問題上保持中立，不得偏袒任何政治派別。

為了洗清偏袒嫌疑，他們不僅公開了部分關於爭議話題的稽核準則，還打算在保護隱私的前提下公佈稽核團隊的人口統計學構成，甚至在跟進 Constitutional AI 和基於規則的獎勵機制。

既不想當真理部，又怕 AI 被玩壞

承認缺陷之後，OpenAI 給出了三個解決步驟。

首先是修補出廠設定。官方承認現在的 ChatGPT 經常該拒絕的時候瞎聊、不該拒絕的時候過度防衛，而且還會胡說八道捏造事實。

其次是允許個性化定製。OpenAI 正在開發升級版本，允許使用者自己設定 AI 的行為方式，即使輸出的內容其他人甚至 OpenAI 官方都不贊同也沒關係。

不過官方也留了後手，強調定製必須有社會公認的邊界，否則 AI 要麼變成作惡工具，要麼變成無腦迎合使用者偏見的馬屁精。

最後是把定邊界的權力交出去。他們表示不想關起門來壟斷權力，接下來會通過外部紅隊測試、第三方審計，以及向公眾和教育界廣泛徵求意見，來決定 AI 的底線到底劃在哪裡。

為什麼重要

我們認為，OpenAI 這次表態最聰明的地方，在於主動卸下了當道德裁判的包袱。

此前科技大廠最容易陷入的陷阱，就是試圖用一套統一的價值準則去管全球使用者的嘴。這既吃力不討好，又必然招致偏袒特定立場的抨擊。

把行為準則拆解成底層硬邊界和上層使用者自定義，看起來是目前最務實的解法。對普通使用者來說，這意味著以後的 ChatGPT 會更順手，至少不會隨便給你上一堂莫名其妙的說教課，創作者也能按自己的風格調教模型。

但這裡的隱患同樣顯而易見。如果把定義價值的旋鈕交給大眾投票，往往意味著拉鋸和妥協；而把定製權下放給個人，怎麼界定有害言論與個人表達的邊界，依然是個沒人能徹底講清的雷區。