新晋图灵奖得主发出警示：AI 企业仓促上线模型无异于草菅人命

如果一家工程队修了座跨江大桥，不计算承重、不测疲劳强度，直接开放让成千上万辆车开上去，以此来测试桥会不会塌，你会怎么想？

刚拿下图灵奖的两位先驱，就觉得现在的 AI 行业正在干这种离谱事。

桥还没造好，先让几百万人上去踩

马萨诸塞大学研究员安德鲁·巴托（Andrew Barto）和前 DeepMind 研究科学家理查德·萨顿（Richard Sutton），刚刚被授予了有计算机界诺贝尔奖之称的图灵奖，分享这笔 100 万美元的奖金。他们获奖的原因，是开创了「强化学习」。

强化学习是什么？说白了，就是让 AI 在反复试错中自己找到最优策略。Google 高级副总裁杰夫·迪恩（Jeff Dean）把它称作「AI 进步的枢纽」和「这轮 AI 繁荣的核心支柱」。从早期的 AlphaGo 到现在的 ChatGPT，底层都离不开这项技术。

但这两人在站上领奖台的这一刻，没忙着庆祝，反而把聚光灯对准了危险。

巴托在接受《金融时报》采访时打了开头那个比方：现在 AI 公司发布产品，就像「造好一座桥，然后让人去走，以此来测试这座桥」。

在巴托看来，在没有任何安全防护措施的情况下，把软件直接扔给几千万人用，根本不是合格的工程规范。传统工程技术发展了这么多年，核心目标之一就是减少技术带来的负面后果，但他现在在这些 AI 开发商身上完全看不到这种严谨。

商业动机盖过了工程伦理

巴托直接点名，这些 AI 公司现在的驱动力完全是商业利益，而不是推进真正的 AI 研究。

其实站出来警告风险的图灵奖得主，他们不是第一批。在此之前，被称作「AI 教父」的约书亚·本吉奥（Yoshua Bengio）和杰弗里·辛顿（Geoffrey Hinton）也多次公开抨击过不安全的 AI 开发。2023 年，包括 OpenAI 首席执行官山姆·奥特曼（Sam Altman）在内的一批顶尖学者和高管，还联合签署过一份声明，呼吁把「防范 AI 带来的灭绝风险」当成全球优先事项。

但签字归签字，生意归生意。

曾因「在未充分理解后果前就过度商业化」而短暂开除奥特曼的 OpenAI，不仅反复承诺过要提升安全性，还在去年 12 月宣布了向营利性企业转型的计划。

一边是顶尖学术界不断亮起红灯，另一边则是商业巨头们争分夺秒地抢跑和变现。

为什么重要

我们认为，这次警告的分量之所以极重，关键在于说话的人是谁。巴托和萨顿不是那些不懂技术的旁观者，他们亲手写下了现代强化学习的理论基础，是这场大模型狂欢的「造铲人」。

连算法的奠基人都觉得当前的发布机制缺乏工程敬畏，这说明什么？说明在资本和估值的催促下，行业已经把前沿测试的成本转嫁到了普通用户身上。如果你今天每天都在依赖各类 AI 工具写代码、做决策甚至托管业务，你本质上就是那个在未经充分验证的桥上走过去的行人。

看起来，这种「先发布、再打补丁」的互联网打法，在面对能力深不可测的通用智能时正在失效。对手在抢跑，你就不敢停下来做几个月的安全对齐，这是典型的囚徒困境。

然而，仅凭道德呼吁和学者警告，恐怕很难刹住商业巨轮的惯性。我们认为，如果缺乏像传统桥梁、航空领域那样具备法律效力的强制性工程准入标准，这种「把大众当白鼠」的冒险模式，短期内依然看不到终点。