新晉圖靈獎得主發出警示：AI 企業倉促上線模型無異於草菅人命

如果一家工程隊修了座跨江大橋，不計算承重、不測疲勞強度，直接開放讓成千上萬輛車開上去，以此來測試橋會不會塌，你會怎麼想？

剛拿下圖靈獎的兩位先驅，就覺得現在的 AI 行業正在幹這種離譜事。

橋還沒造好，先讓幾百萬人上去踩

麻薩諸塞大學研究員安德魯·巴托（Andrew Barto）和前 DeepMind 研究科學家理查德·薩頓（Richard Sutton），剛剛被授予了有計算機界諾貝爾獎之稱的圖靈獎，分享這筆 100 萬美元的獎金。他們獲獎的原因，是開創了「強化學習」。

強化學習是什麼？說白了，就是讓 AI 在反覆試錯中自己找到最優策略。Google 高階副總裁傑夫·迪恩（Jeff Dean）把它稱作「AI 進步的樞紐」和「這輪 AI 繁榮的核心支柱」。從早期的 AlphaGo 到現在的 ChatGPT，底層都離不開這項技術。

但這兩人在站上領獎臺的這一刻，沒忙著慶祝，反而把聚光燈對準了危險。

巴托在接受《金融時報》採訪時打了開頭那個比方：現在 AI 公司釋出產品，就像「造好一座橋，然後讓人去走，以此來測試這座橋」。

在巴托看來，在沒有任何安全防護措施的情況下，把軟體直接扔給幾千萬人用，根本不是合格的工程規範。傳統工程技術發展了這麼多年，核心目標之一就是減少技術帶來的負面後果，但他現在在這些 AI 開發商身上完全看不到這種嚴謹。

商業動機蓋過了工程倫理

巴托直接點名，這些 AI 公司現在的驅動力完全是商業利益，而不是推進真正的 AI 研究。

其實站出來警告風險的圖靈獎得主，他們不是第一批。在此之前，被稱作「AI 教父」的約書亞·本吉奧（Yoshua Bengio）和傑弗裡·辛頓（Geoffrey Hinton）也多次公開抨擊過不安全的 AI 開發。2023 年，包括 OpenAI 執行長山姆·奧特曼（Sam Altman）在內的一批頂尖學者和高管，還聯合簽署過一份宣告，呼籲把「防範 AI 帶來的滅絕風險」當成全球優先事項。

但簽字歸簽字，生意歸生意。

曾因「在未充分理解後果前就過度商業化」而短暫開除奧特曼的 OpenAI，不僅反覆承諾過要提升安全性，還在去年 12 月宣佈了向營利性企業轉型的計劃。

一邊是頂尖學術界不斷亮起紅燈，另一邊則是商業巨頭們爭分奪秒地搶跑和變現。

為什麼重要

我們認為，這次警告的分量之所以極重，關鍵在於說話的人是誰。巴托和薩頓不是那些不懂技術的旁觀者，他們親手寫下了現代強化學習的理論基礎，是這場大模型狂歡的「造鏟人」。

連演算法的奠基人都覺得當前的釋出機制缺乏工程敬畏，這說明什麼？說明在資本和估值的催促下，行業已經把前沿測試的成本轉嫁到了普通使用者身上。如果你今天每天都在依賴各類 AI 工具寫程式碼、做決策甚至託管業務，你本質上就是那個在未經充分驗證的橋上走過去的行人。

看起來，這種「先發布、再打補丁」的網際網路打法，在面對能力深不可測的通用智慧時正在失效。對手在搶跑，你就不敢停下來做幾個月的安全對齊，這是典型的囚徒困境。

然而，僅憑道德呼籲和學者警告，恐怕很難剎住商業巨輪的慣性。我們認為，如果缺乏像傳統橋梁、航空領域那樣具備法律效力的強制性工程准入標準，這種「把大眾當白鼠」的冒險模式，短期內依然看不到終點。