AIの判断は本当に公平か？機械学習に潜む「予測可能なノイズ」の罠

大学の入試担当者は、曇りの日には成績優秀な志願者を好み、晴れた日には課外活動に優れた志願者を評価しやすいという行動研究があります。人間の判断はその日の気分や天気に左右され、そこには常に「ノイズ」が付きまといます。

長年、この問題の解決策はアルゴリズムへの置き換えだと信じられてきました。ハーバード・ビジネス・レビューもかつて、アルゴリズムの決定的な利点は「ノイズがないこと」だと指摘しました。同じ入力を与えれば常に同じ出力を返すからです。しかし、研究者の Prakhar Ganesh 氏はこれに異を唱えています。AI はノイズを排除したのではなく、学習時のランダム性を固定化し、「予測可能なノイズ」として抱え込んでいるだけだという指摘です。

同じアルゴリズムでも答えがズレる理由

なぜ人々は AI にノイズがないと錯覚するのでしょうか。学習を終えた機械学習モデルは固定された数式であり、今日落とされた出願書類は、明日再提出しても同じように落とされるからです。この再現性の高さが、ノイズのない判断という幻想を生み出しています。

しかし、数式が完成するまでの学習プロセスには無数のランダム性が入り込みます。Ganesh 氏は簡単な数字当てゲームを例に挙げます。出題者の数字を当てるため、同じヒントを受け取り、全く同じルールで推測を修正していったとしても、Alice と Bob の最終的な答えは一致しません。最初に置いたランダムな初期値が違ったからです。

AI の学習もこれと全く同じです。初期設定や探索ルートに生じる無意味なランダム性によって、最終的に固まる数式自体が変わってしまいます。完成したシステムは決定論的であっても、その中身には学習過程で紛れ込んだノイズがそのまま居座り続けます。

これは「バイアス」とも異なります。バイアスは社会的偏見など説明可能な系統的エラーですが、学習パスの乱数は完全に無意味な信号です。意味のないノイズが、アルゴリズムの固定ルールとして組み込まれてしまうわけです。

機械に入試を委ねたときに起きる混乱

もし大学の合否判定を完全に AI に委ねたらどうなるでしょうか。

統計的な平均値では AI のほうが人間より正確な判断を下せるかもしれません。しかし、個別の人間に対する予測精度は別問題です。成績や課外活動の履歴だけで、その学生の将来を完璧に見通すことは不可能です。

似たような AI を複数の大学が導入すれば、すべての大学がまったく同じ一部の学生に合格通知を出し、結果として大量の定員割れを引き起こします。さらに、過去のデータだけで厳密に裁かれるため、途中で立ち直って伸びるような例外的な学生は最初から門前払いされることになります。

なぜ重要か

意思決定に AI を導入しようとしている企業や採用担当者にとって、この指摘は「アルゴリズムなら公平でブレがない」という思い込みを覆すものです。入力と出力が一致しているからといって、その判断が客観的である保証にはなりません。単一のモデルにスクリーニングを丸投げすることは、固定化されたランダムノイズに人生を左右されるリスクを放置することと同じです。

業界全体にとっても、再現性と客観性を混同してきたこれまでの論調に冷や水を浴びせる議論です。私たちは、AI がノイズを消し去ったのではなく、人間の揺らぎを機械のブラックボックスの中に隠しただけだと見ています。人間の気まぐれな判断には時に救われる例外が存在しますが、数式に固められた予測可能なノイズは、例外のない冷酷な排除を生み出す危険をはらんでいます。