OpenAI 资助杜克大学研究：让算法预测人类的道德判断

让 AI 算算谁该先拿肾脏捐赠，这听起来像是反乌托邦科幻里的情节。但 OpenAI 正在认认真真地为这种研究掏钱。

根据 OpenAI 提交给美国国税局的税务文件披露，这家公司的非营利实体向杜克大学的研究人员资助了一个名为「研究 AI 道德」（Research AI Morality）的项目。OpenAI 发言人随后证实，这是杜克大学一项为期三年、总额 100 万美元「打造道德 AI」研究的一部分，整个资助预计在 2025 年结束。

道德 GPS，还是翻车前兆

这笔钱到底要干什么？按官方新闻稿的说法，研究的核心目标是训练算法，去「预测人类的道德判断」。尤其是在医疗、法律和商业领域里，当不同道德考量发生冲突时，看算法能不能摸准人类的心思。

负责这项研究的杜克大学应用伦理学教授 Walter Sinnott-Armstrong 对媒体表示目前不能多谈这项工作。不过他和合作者 Jana Borg 之前已经在这个领域深耕多年，不仅出过书，还一直提出 AI 可以充当人类的「道德 GPS」，帮助人类做出更合理的决定。

他们之前甚至跟团队做过一个「道德对齐」算法，专门用来辅助判断谁应该优先获得肾脏捐赠，还专门研究过在哪些情景下普通人更愿意让 AI 来替自己做道德抉择。

教机器懂道德有多难

但问题在于，让一堆统计概率模型去理解人类最复杂的道德观念，真的靠谱吗？

早在 2021 年，艾伦人工智能研究所就推出过一个名为 Ask Delphi 的伦理工具，试图给道德问题打分。一开始它表现得还像模像样，知道考试作弊是错的；但稍微换一种刁钻的句式提问，Delphi 就会轻易破功，甚至同意「闷死婴儿」这种极端行径。

说白了，现在的机器学习本质上是概率推断机器，它们从海量网页里学到了文字关联模式，却根本没有真正的道德推理能力。更麻烦的是偏见：Delphi 当时甚至认为异性恋比同性恋「道德上更容易被接受」。

各家模型现在的道德倾向也不一样。比如业内常提到，Claude 的回答往往偏向康德主义，更看重绝对的道德规则；而 ChatGPT 则稍微偏向功利主义，倾向于追求多数人的最大利益。谁对谁错，哲学家吵了几千年都没定论，更别提让算法来统一了。

为什么重要

当 AI 逐渐从「搜索引擎」变成「自主代理」，它不可避免地要开始替人类做决定。以前 AI 犯错顶多是给出一句胡话，以后 AI 如果要在法律文书起草、医疗资源调配或者保险理赔审核中做判断，道德偏见就会直接变成现实生活里的不公。

我们认为，OpenAI 资助这个项目，表面上是在支持学术探索，实际上是想尽早摸清「机器伦理」的边界。用杜克大学成熟的外部学者当防火墙，既能借学术界积累来探索对齐难题，万一算法研究惹出争议，也不至于直接烧到自己的商业产品上。

但这里的隐患也非常明显：企图用算法去「预测道德判断」，很容易滑向把某种主流偏见程序化、制度化的陷阱。全球网民那么多，不发声群体的价值观天然在数据里缺席。把救命的肾脏分给谁、官司偏向谁，这种决定如果过早交给所谓的「道德 GPS」，到底是在帮人类，还是在给算法推卸责任找借口，现在来看依然充满风险。