OpenAI 資助杜克大學研究：讓演算法預測人類的道德判斷

讓 AI 算算誰該先拿腎臟捐贈，這聽起來像是反烏托邦科幻裡的情節。但 OpenAI 正在認認真真地為這種研究掏錢。

根據 OpenAI 提交給美國國稅局的稅務檔案披露，這家公司的非營利實體向杜克大學的研究人員資助了一個名為「研究 AI 道德」（Research AI Morality）的專案。OpenAI 發言人隨後證實，這是杜克大學一項為期三年、總額 100 萬美元「打造道德 AI」研究的一部分，整個資助預計在 2025 年結束。

道德 GPS，還是翻車前兆

這筆錢到底要幹什麼？按官方新聞稿的說法，研究的核心目標是訓練演算法，去「預測人類的道德判斷」。尤其是在醫療、法律和商業領域裡，當不同道德考量發生衝突時，看演算法能不能摸準人類的心思。

負責這項研究的杜克大學應用倫理學教授 Walter Sinnott-Armstrong 對媒體表示目前不能多談這項工作。不過他和合作者 Jana Borg 之前已經在這個領域深耕多年，不僅出過書，還一直提出 AI 可以充當人類的「道德 GPS」，幫助人類做出更合理的決定。

他們之前甚至跟團隊做過一個「道德對齊」演算法，專門用來輔助判斷誰應該優先獲得腎臟捐贈，還專門研究過在哪些情景下普通人更願意讓 AI 來替自己做道德抉擇。

教機器懂道德有多難

但問題在於，讓一堆統計機率模型去理解人類最複雜的道德觀念，真的靠譜嗎？

早在 2021 年，艾倫人工智慧研究所就推出過一個名為 Ask Delphi 的倫理工具，試圖給道德問題打分。一開始它表現得還像模像樣，知道考試作弊是錯的；但稍微換一種刁鑽的句式提問，Delphi 就會輕易破功，甚至同意「悶死嬰兒」這種極端行徑。

說白了，現在的機器學習本質上是機率推斷機器，它們從海量網頁裡學到了文字關聯模式，卻根本沒有真正的道德推理能力。更麻煩的是偏見：Delphi 當時甚至認為異性戀比同性戀「道德上更容易被接受」。

各家模型現在的道德傾向也不一樣。比如業內常提到，Claude 的回答往往偏向康德主義，更看重絕對的道德規則；而 ChatGPT 則稍微偏向功利主義，傾向於追求多數人的最大利益。誰對誰錯，哲學家吵了幾千年都沒定論，更別提讓演算法來統一了。

為什麼重要

當 AI 逐漸從「搜尋引擎」變成「自主代理」，它不可避免地要開始替人類做決定。以前 AI 犯錯頂多是給出一句胡話，以後 AI 如果要在法律文書起草、醫療資源調配或者保險理賠稽核中做判斷，道德偏見就會直接變成現實生活裡的不公。

我們認為，OpenAI 資助這個專案，表面上是在支援學術探索，實際上是想盡早摸清「機器倫理」的邊界。用杜克大學成熟的外部學者當防火牆，既能借學術界積累來探索對齊難題，萬一演算法研究惹出爭議，也不至於直接燒到自己的商業產品上。

但這裡的隱患也非常明顯：企圖用演算法去「預測道德判斷」，很容易滑向把某種主流偏見程式化、制度化的陷阱。全球網民那麼多，不發聲群體的價值觀天然在資料裡缺席。把救命的腎臟分給誰、官司偏向誰，這種決定如果過早交給所謂的「道德 GPS」，到底是在幫人類，還是在給演算法推卸責任找藉口，現在來看依然充滿風險。