OpenAI 總結 AI 民主輸入專案：開源成果併成立「集體對齊」團隊

AI 到底該聽誰的？以前這個問題的答案基本攥在舊金山幾家大公司的工程師手裡。但如果讓全球普通公眾像投票一樣，共同決定大模型什麼該說什麼不該說，這事行得通嗎？

OpenAI 公佈了其「AI 民主化輸入」資助計劃的總結報告與開原始碼。早在 5 月，OpenAI 從 113 個國家的近千個申請團隊中挑出 10 支隊伍，給每隊發了 10 萬美元，讓他們去實驗「如何用民主方式制定 AI 治理規則」。現在，各團隊交出了答卷，OpenAI 也宣佈正式組建名為「集體對齊」（Collective Alignment）的全職團隊，要把這些外部機制真正落地到自家的模型訓練流程裡。

民主實驗裡的意外發現

這 10 個團隊的背景橫跨法律、新聞、和平建設與機器學習，分佈在 12 個國家。他們在過去幾個月的實際測試中，摸出了不少很有意思的現實矛盾。

首先是公眾想法變得比想像中更快。Democratic Fine-Tuning 團隊做了一個聊天機器人，給參與者看不同場景並生成「價值觀卡片」讓人評估。但多數團隊發現，公眾的觀點甚至會隔天就變。這就給治理提了個難題：收集公眾意見的機制到底該多久跑一次？太慢抓不住動態，太頻繁又會把短期情緒當成長期價值觀。

其次是數字鴻溝讓取樣極度失真。很多團隊發現，能順暢在網上參與討論的人，本身就對 AI 更樂觀、更包容。而在欠發達地區，哪怕拉來了人，工具也根本跟不上。比如菲律賓新聞機構 Rappler 團隊在當地做焦點小組時，發現現成的語音轉錄工具 Whisper 面對他加祿語、宿務語等本土語言表現很差，連把人話準確錄下來都費勁。非洲的 Ubuntu-AI 團隊則直接選擇通過付費補償，來吸引本土創作者參與。

少數人的堅決態度也很難被簡單投票化解。Collective Dialogues 團隊發現，每場討論裡總有一小撮人極度堅決地認為「AI 助手無論如何都不能拒絕回答問題」。如果搞簡單的少數服從多數，這批人就會被直接碾壓，徹底失去信任。不過他們也找到了驚喜：在疫苗資訊這種高度割裂的議題上，通過特定引導流程產出的政策指南，竟然在美國民主黨、獨立人士和共和黨人間拿下了超過 72% 的共同支援率。

成立新團隊，把程式碼和方法搬進模型

除了公開各團隊的原型程式碼，OpenAI 這次的重點是把外部實驗轉成內部工程。新成立的「集體對齊」團隊由研究員和工程師組成，核心任務是搭建一套端到端系統，把公眾輸入編碼成具體資料，直接用來微調和引導模型行為。

參與者對「AI 自己制定規則」其實很警惕。Deliberation at Scale 等團隊的反饋顯示，公眾非常介意 AI 在決策裡佔多大分量。更被信任的模式，往往是把 AI 放在輔助位置，比如讓 AI 負責快速整理觀點或生成草案，最後由人類專家審查或由公眾投票決定。有一個條款在 Collective Dialogues 的各組討論裡拿到了平均 85% 的超高支援率：AI 的治理政策必須隨著新問題的出現、公眾理解的加深以及 AI 能力的演進，保持定期更新與擴充。

為什麼重要

對普通人和各領域從業者來說，這項進展意味著大模型的「對齊」不再只是矽谷辦公室裡的黑盒測試。如果你是內容創作者、法律從業者或政策制定者，未來可能會有更多渠道直接影響模型在特定爭議議題上的邊界。但說白了，普通人現在還不用指望明天就能像投選票一樣給 ChatGPT 定規矩，目前這套機制還在研究原型向內部管線移植的階段。

對整個行業而言，OpenAI 此舉是把一直懸在半空的「價值對齊」難題向外推了一大步。過去不管是 RLHF 還是紅隊測試，模型規則往往被批評代表了少數科技精英的偏好。Anthropic 之前嘗試了「憲法 AI」，用既定原則指導模型，而 OpenAI 正在嘗試走一條更接近現代民主審議的路子。如果這套流程跑通，其他做前沿模型的廠商也會面臨同樣的道德和監管壓力：憑什麼你們幾個人能替全人類決定 AI 的價值觀？

我們認為，OpenAI 願意把程式碼開源並立項組建團隊，算是一個聰明的動作。它既緩解了反壟斷和內容審查上的外部公關壓力，又把極度複雜的社會學治理成本轉嫁給全球學者和社群。但隱患也同樣扎眼：只要存在數字鴻溝和語言效能差距，所謂「代表人類價值觀」就極容易滑向「代表有網、有閒、說英語群體的價值觀」。把充滿搖擺、矛盾的公眾意見強行數學化為訓練權重，稍有不慎就會讓模型要麼陷入不敢表態的和稀泥狀態，要麼被情緒化的群體沖垮底層邏輯。如何把這套複雜的審議真正編進損失函式，真正的考驗才剛剛開始。