OpenAI 总结 AI 民主输入项目：开源成果并成立「集体对齐」团队

AI 到底该听谁的？以前这个问题的答案基本攥在旧金山几家大公司的工程师手里。但如果让全球普通公众像投票一样，共同决定大模型什么该说什么不该说，这事行得通吗？

OpenAI 公布了其「AI 民主化输入」资助计划的总结报告与开源代码。早在 5 月，OpenAI 从 113 个国家的近千个申请团队中挑出 10 支队伍，给每队发了 10 万美元，让他们去实验「如何用民主方式制定 AI 治理规则」。现在，各团队交出了答卷，OpenAI 也宣布正式组建名为「集体对齐」（Collective Alignment）的全职团队，要把这些外部机制真正落地到自家的模型训练流程里。

民主实验里的意外发现

这 10 个团队的背景横跨法律、新闻、和平建设与机器学习，分布在 12 个国家。他们在过去几个月的实际测试中，摸出了不少很有意思的现实矛盾。

首先是公众想法变得比想象中更快。Democratic Fine-Tuning 团队做了一个聊天机器人，给参与者看不同场景并生成「价值观卡片」让人评估。但多数团队发现，公众的观点甚至会隔天就变。这就给治理提了个难题：收集公众意见的机制到底该多久跑一次？太慢抓不住动态，太频繁又会把短期情绪当成长期价值观。

其次是数字鸿沟让采样极度失真。很多团队发现，能顺畅在网上参与讨论的人，本身就对 AI 更乐观、更包容。而在欠发达地区，哪怕拉来了人，工具也根本跟不上。比如菲律宾新闻机构 Rappler 团队在当地做焦点小组时，发现现成的语音转录工具 Whisper 面对他加禄语、宿务语等本土语言表现很差，连把人话准确录下来都费劲。非洲的 Ubuntu-AI 团队则直接选择通过付费补偿，来吸引本土创作者参与。

少数人的坚决态度也很难被简单投票化解。Collective Dialogues 团队发现，每场讨论里总有一小撮人极度坚决地认为「AI 助手无论如何都不能拒绝回答问题」。如果搞简单的少数服从多数，这批人就会被直接碾压，彻底失去信任。不过他们也找到了惊喜：在疫苗信息这种高度割裂的议题上，通过特定引导流程产出的政策指南，竟然在美国民主党、独立人士和共和党人间拿下了超过 72% 的共同支持率。

成立新团队，把代码和方法搬进模型

除了公开各团队的原型代码，OpenAI 这次的重点是把外部实验转成内部工程。新成立的「集体对齐」团队由研究员和工程师组成，核心任务是搭建一套端到端系统，把公众输入编码成具体数据，直接用来微调和引导模型行为。

参与者对「AI 自己制定规则」其实很警惕。Deliberation at Scale 等团队的反馈显示，公众非常介意 AI 在决策里占多大分量。更被信任的模式，往往是把 AI 放在辅助位置，比如让 AI 负责快速整理观点或生成草案，最后由人类专家审查或由公众投票决定。有一个条款在 Collective Dialogues 的各组讨论里拿到了平均 85% 的超高支持率：AI 的治理政策必须随着新问题的出现、公众理解的加深以及 AI 能力的演进，保持定期更新与扩充。

为什么重要

对普通人和各领域从业者来说，这项进展意味着大模型的「对齐」不再只是硅谷办公室里的黑盒测试。如果你是内容创作者、法律从业者或政策制定者，未来可能会有更多渠道直接影响模型在特定争议议题上的边界。但说白了，普通人现在还不用指望明天就能像投选票一样给 ChatGPT 定规矩，目前这套机制还在研究原型向内部管线移植的阶段。

对整个行业而言，OpenAI 此举是把一直悬在半空的「价值对齐」难题向外推了一大步。过去不管是 RLHF 还是红队测试，模型规则往往被批评代表了少数科技精英的偏好。Anthropic 之前尝试了「宪法 AI」，用既定原则指导模型，而 OpenAI 正在尝试走一条更接近现代民主审议的路子。如果这套流程跑通，其他做前沿模型的厂商也会面临同样的道德和监管压力：凭什么你们几个人能替全人类决定 AI 的价值观？

我们认为，OpenAI 愿意把代码开源并立项组建团队，算是一个聪明的动作。它既缓解了反垄断和内容审查上的外部公关压力，又把极度复杂的社会学治理成本转嫁给全球学者和社区。但隐患也同样扎眼：只要存在数字鸿沟和语言性能差距，所谓「代表人类价值观」就极容易滑向「代表有网、有闲、说英语群体的价值观」。把充满摇摆、矛盾的公众意见强行数学化为训练权重，稍有不慎就会让模型要么陷入不敢表态的和稀泥状态，要么被情绪化的群体冲垮底层逻辑。如何把这套复杂的审议真正编进损失函数，真正的考验才刚刚开始。