演算法決策真的沒有偏見嗎？剖析機器學習裡的「可預測噪聲」

如果今天天氣陰沉，招生官可能更看重你的考試成績；要是外頭陽光明媚，他們或許更容易被你的社團經歷打動。這種人類決策裡反覆無常的波動，就是行為經濟學常說的「噪聲」。

很多人覺得解決辦法很簡單：換演算法來辦。哈佛商業評論就曾寫過，演算法最大的好處就是「零噪聲」，因為公式是死的，今天丟進去什麼，明天吐出來的還是什麼。但 AI 真的能做到毫無噪聲嗎？研究者 Prakhar Ganesh 提出了完全相反的看法：AI 的所謂確定性，其實只是一種假象，它不僅沒消滅噪聲，反而把訓練時的隨機干擾固定成了「可預測的噪聲」。

相同的演算法，完全不同的答案

演算法為什麼看似沒有噪聲？因為從表面上看，訓練完成的機器學習模型就是一組複雜的數學公式。如果一份大學申請今天被 AI 拒絕了，明天再交一次，AI 依然會拒絕它。

但這並不意味著決策本身沒有噪聲。Ganesh 用了一個極簡的猜數字遊戲來打比方：規則只有兩條，一是猜對方心裡想的數字，二是每次拿到新線索時，只能做出最小幅度的猜測調整。給 Alice 和 Bob 完全一樣的提示資訊，讓他們跑同一套學習邏輯，他們最終算出的數字依然南轅北轍。

原因就在於初始狀態的隨機性。機器學習在初始化猜測和尋找最優路徑時，到處充斥著隨機性。這意味著兩套原本完全相同的模型架構，僅僅因為訓練路徑上微小的隨機擾動，最終固定下來的決策邏輯就會大相逕庭。模型部署後確實表現得穩定且確定，但它固化下來的卻是一份徹頭徹尾的隨機噪聲。

很多人容易把這跟「偏差」搞混。偏差通常是系統性的，比如社會偏見或個人的性格特質，至少事後還能解釋清楚；而訓練過程中被封印進去的隨機噪聲，本質上是沒有任何意義的擾動。

機器管招生，可能兩頭不討好

如果真把這類複雜決策全盤交給演算法，後果可能會很滑稽。

Ganesh 指出，哪怕 AI 在統計學層面比人類更精準，也不代表它對每個具體的人都可靠。現實世界沒有萬靈丹，成績和活動經歷並不能百分之百預測一個學生在大學裡的表現，總有人會高開低走，也總有人會浪子回頭。

如果全美的高校都用類似的 AI 模型去篩學生，最先出現的災難就是共振：同梯隊的大學會把錄取通知書同時發給同一批「最符合模型」的尖子生，最後落得大面積空置。與此同時，那些有潛力但曾經犯過錯的學生，則會被演算法基於以往資料的冷酷邏輯直接一票否決，徹底喪失轉機。

為什麼重要

對企業和機構來說，這項討論戳破了「演算法等於客觀中立」的遮羞布。如果你正打算在招聘、授信或者稽核流程中完全信任現成的 AI 打分，現在最該做的不是盲目上線，而是重新審視模型裡固化了多少毫無意義的初始噪聲。把決策權完全甩給單次訓練出來的模型，並不比相信一個心情陰晴不定的人力經理高明多少。

對行業而言，它精準地挑戰了主流技術路線對「確定性」的迷信。我們認為，很多技術團隊把工程上的輸入輸出一致性，偷換成了決策本身的客觀性，這一步走得相當偷懶。人類決策的噪聲雖然煩人，但偶爾的非理性波動至少給邊緣案例留出了生機；而 AI 把隨機誤差包裝成了冷冰冰的鐵律，在同質化部署下只會形成更致命的系統性盲區。

說白了，演算法沒能殺死噪聲，它只是把人類寫在臉上的喜怒無常，悄悄藏進了誰也看不懂的模型權重裡。