OpenAI 发放 10 个 10 万美元资助：征集 AI 规则民主治理方案

首次发布 2023年5月25日传播指数 39

OpenAI 宣布设立资助计划，发放 10 个 10 万美元资助金，支持团队实验如何通过民主程序决定 AI 应遵守的规则。获选团队需在 10 月 20 日前交付包含至少 500 名参与者的实验原型与公开报告，成果全部开源。OpenAI 希望借此探索由公众广泛参与的治理机制。

AI 说话到底该听谁的，这事一直没有公认的解法。如果全让旧金山那几间办公室里的工程师说了算，谁都不放心；但要是交给投票，又该怎么投、听谁的？

OpenAI 旗下的非营利组织 OpenAI, Inc. 宣布拿出一笔钱，设立了 10 个每个 10 万美元的资助名额，专门向全球征集方案，研究怎么用「民主程序」来给 AI 系统立规矩。

拿出 100 万美元，让外界替 AI 立规矩

OpenAI 这次想解决的，不是「AI 不能违法」这种底线问题，而是在法律空白或文化冲突地带，AI 到底该怎么表态。

他们在博客里列了一长串头疼的问题。比如面对公众人物的争议，AI 该保持中立还是直接拒绝回答？当用户生成「医生」或「CEO」的图片时，模型该偏向多样化还是遵从某种默认设定？当普世人权与某些地区的本地文化法律产生冲突时，AI 又该站在哪一边？

OpenAI 认为，任何单一的个人、公司甚至国家，都不应该独自垄断这些决定权。他们希望借鉴像维基百科、Twitter 的 Community Notes、pol.is 这样的集体决策机制，探索一套能代表广泛公众利益的治理流程。

这次申请没有太高的行业门槛，无论是研究机构、民间组织还是个人，不管有没有社会科学或 AI 背景，都可以去申请。

申请截止时间定在 2023 年 6 月 24 日，7 月 14 日公布入选结果。入选的 10 个团队需要在 2023 年 10 月 20 日前交出一份公开报告。

要求很具体：每个团队都必须拿出一个落地的概念验证原型，并且至少要让 500 名真实参与者参与进来进行测试。更关键的是，项目中开发的所有代码和知识产权都必须按开源协议公开。

不过，OpenAI 也把丑话说在了前头：这些早期的实验结果目前并不具备决策约束力，他们也不打算用这个项目来替代政府监管。说白了，这更像是一场关于 AI 治理机制的「黑客松」。

我们认为，OpenAI 这步棋走得相当聪明，但也留着明显的防守退路。

聪明的地方在于，它在公众和监管层面前展现了一种开放姿态。AI 价值观对齐一直是各方火力集中的焦点，左边嫌它偏见，右边嫌它政治正确。OpenAI 拿出 100 万美元，把「AI 听谁的」这个烫手山芋部分抛给了学术界和公众，既吸收了社区智慧，又在舆论上树立了负责任的形象。

但隐患也很现实。OpenAI 明确说了，实验结果「不具备约束力」。也就是说，民主讨论出来的方案再好，采不采纳的最终裁量权依然握在 OpenAI 自己手里。如果最后这些工具沦为公关展示，而核心模型的行为边界依然由闭门决策决定，就很容易陷入他们自己警告的「参与式洗白」。

对开发者和研究人员来说，现在去申请非常划算。10 万美元的无偿资助门槛不高，而且开源要求意味着这一轮实验沉淀下来的治理工具和数据集，会成为整个行业公共资产。它会倒逼其他大模型厂商思考：当你的模型开始影响数亿人时，你打算怎么向公众证明自己的规则是公允的？

这个话题的历次新闻，最新的在上面。