OpenAIがデューク大の「AI道徳」研究を支援　人間の道徳的判断を予測するアルゴリズム目指す

AI に倫理的な判断を委ねるという試みは、どこかディストピアのようにも聞こえますが、OpenAI は本気でその研究に資金を投じています。

米国内国歳入庁（IRS）への提出書類によると、OpenAI の非営利部門である OpenAI Inc. は、デューク大学の研究者らによる「AI の道徳性研究（Research AI Morality）」プロジェクトに助成金を提供したことが明らかになりました。広報担当者によると、これは同大学の教授陣が進める「道徳的 AI の作成」を目的とした 3 年間・総額 100 万ドル規模の助成の一環であり、2025 年に終了する予定です。

人間の倫理観を予測する「道徳の GPS」

研究の詳細は多く明かされていません。主任研究員を務めるデューク大学の実践倫理学教授 Walter Sinnott-Armstrong 氏は取材に対して詳細を語れないと回答しました。

しかし、同氏と共同研究者の Jana Borg 氏はこれまで、AI を人間のより良い判断を助ける「道徳の GPS」として活用する研究や書籍を手がけてきました。過去には、腎臓移植の優先順位を決定するための「道徳的整合アルゴリズム」を開発したり、人々がどんな場面で AI に倫理的判断を任せたいと考えるかを調査しています。

今回の助成事業の目標は、医療、法律、ビジネスといった利害が衝突する複雑な現場で、アルゴリズムが「人間の道徳的判断を予測」できるように訓練することだとされています。

統計マシンに道徳は理解できるのか

しかし、現在の機械学習モデルにニュアンスに富んだ道徳を理解させるのは極めて困難です。

2021 年にアレン人工知能研究所が公開した倫理アドバイザー「Ask Delphi」は、試験のカンニングを悪と判定できたものの、質問の言い回しを少し変えるだけで乳児の窒息死すら容認してしまう脆弱性を露呈しました。さらに、異性愛のほうが同性愛よりも道徳的に受け入れられるといった偏見も露骨に表れました。

ウェブ上の膨大なテキストから確率的に単語を予測するだけのモデルは、道徳的推論も感情も持ち合わせていません。現在の Claude が義務論的（カント的）な回答を好む一方で、ChatGPT はやや功利主義的な傾向を示すなど、モデル間でも倫理的スタンスは分かれています。

なぜ重要か

今後 AI エージェントが実社会の業務を代行するようになれば、法的文書の作成や医療リソースの配分など、倫理が絡む判断を避けられなくなります。偏った価値観を持つモデルが現場に導入されれば、そのまま社会的格差や差別に直結しかねません。

OpenAI が自社で抱え込まず、デューク大学の倫理学者らに資金を提供したのは賢明なアプローチに見えます。学術界の知見を取り入れつつ、物議を醸しやすい「機械の道徳」というテーマに対して一定の距離を保てるからです。

とはいえ、人間の判断を予測するアルゴリズムを作ることには大きな懸念が残ります。学習データは西洋的・教育水準の高い層の言説に偏っており、沈黙する人々の倫理観は反映されにくいのが実情です。誰を優先して救うかといった究極の判断を「道徳 GPS」に委ねようとする試みは、倫理的責任の所在を曖昧にする危険を孕んでいます。