算法决策真的没有偏见吗？剖析机器学习里的「可预测噪声」

如果今天天气阴沉，招生官可能更看重你的考试成绩；要是外头阳光明媚，他们或许更容易被你的社团经历打动。这种人类决策里反复无常的波动，就是行为经济学常说的「噪声」。

很多人觉得解决办法很简单：换算法来办。哈佛商业评论就曾写过，算法最大的好处就是「零噪声」，因为公式是死的，今天丢进去什么，明天吐出来的还是什么。但 AI 真的能做到毫无噪声吗？研究者 Prakhar Ganesh 提出了完全相反的看法：AI 的所谓确定性，其实只是一种假象，它不仅没消灭噪声，反而把训练时的随机干扰固定成了「可预测的噪声」。

相同的算法，完全不同的答案

算法为什么看似没有噪声？因为从表面上看，训练完成的机器学习模型就是一组复杂的数学公式。如果一份大学申请今天被 AI 拒绝了，明天再交一次，AI 依然会拒绝它。

但这并不意味着决策本身没有噪声。Ganesh 用了一个极简的猜数字游戏来打比方：规则只有两条，一是猜对方心里想的数字，二是每次拿到新线索时，只能做出最小幅度的猜测调整。给 Alice 和 Bob 完全一样的提示信息，让他们跑同一套学习逻辑，他们最终算出的数字依然南辕北辙。

原因就在于初始状态的随机性。机器学习在初始化猜测和寻找最优路径时，到处充斥着随机性。这意味着两套原本完全相同的模型架构，仅仅因为训练路径上微小的随机扰动，最终固定下来的决策逻辑就会大相径庭。模型部署后确实表现得稳定且确定，但它固化下来的却是一份彻头彻尾的随机噪声。

很多人容易把这跟「偏差」搞混。偏差通常是系统性的，比如社会偏见或个人的性格特质，至少事后还能解释清楚；而训练过程中被封印进去的随机噪声，本质上是没有任何意义的扰动。

机器管招生，可能两头不讨好

如果真把这类复杂决策全盘交给算法，后果可能会很滑稽。

Ganesh 指出，哪怕 AI 在统计学层面比人类更精准，也不代表它对每个具体的人都可靠。现实世界没有万灵丹，成绩和活动经历并不能百分之百预测一个学生在大学里的表现，总有人会高开低走，也总有人会浪子回头。

如果全美的高校都用类似的 AI 模型去筛学生，最先出现的灾难就是共振：同梯队的大学会把录取通知书同时发给同一批「最符合模型」的尖子生，最后落得大面积空置。与此同时，那些有潜力但曾经犯过错的学生，则会被算法基于以往数据的冷酷逻辑直接一票否决，彻底丧失转机。

为什么重要

对企业和机构来说，这项讨论戳破了「算法等于客观中立」的遮羞布。如果你正打算在招聘、授信或者审核流程中完全信任现成的 AI 打分，现在最该做的不是盲目上线，而是重新审视模型里固化了多少毫无意义的初始噪声。把决策权完全甩给单次训练出来的模型，并不比相信一个心情阴晴不定的人力经理高明多少。

对行业而言，它精准地挑战了主流技术路线对「确定性」的迷信。我们认为，很多技术团队把工程上的输入输出一致性，偷换成了决策本身的客观性，这一步走得相当偷懒。人类决策的噪声虽然烦人，但偶尔的非理性波动至少给边缘案例留出了生机；而 AI 把随机误差包装成了冷冰冰的铁律，在同质化部署下只会形成更致命的系统性盲区。

说白了，算法没能杀死噪声，它只是把人类写在脸上的喜怒无常，悄悄藏进了谁也看不懂的模型权重里。