跳到正文
IFAI

產業動態

「AI 教父」Hinton 離職 Google:後悔畢生研究,警告風險失控

首次發布 傳播指數 48

圖靈獎得主 Geoffrey Hinton 宣佈從 Google 離職。他表示對自己畢生的研究感到部分後悔,離職是為了能自由警示 AI 帶來的風險。他特別擔憂巨頭惡性競爭會導致虛假資訊氾濫,以及未來 AI 自行編寫程式碼甚至威脅人類存亡。

「AI 教父」Hinton 離職 Google:後悔畢生研究,警告風險失控
圖:theverge.com

一手把現代人工智慧送上神壇的人,現在決定轉過身來敲警鐘。

被稱為「AI 教父」、2018 年圖靈獎得主之一的 Geoffrey Hinton,最近從工作了十多年的 Google 離職。75 歲的老先生在接受《紐約時報》採訪時承認,他對自己畢生的工作感到一部分後悔。

他上個月正式向 Google 遞交辭呈,上週四還與 Google 執行長 Sundar Pichai 直接通了電話。辭職的原因很純粹:脫離大廠身份,毫無顧忌地公開談論 AI 帶來的風險。

親手點燃的火,開始失控了

Hinton 進入 Google,源於 Google 收購了他和兩名學生共同創辦的公司。當年他們訓練出的神經網路,在分析數萬張照片後學會了識別狗、貓和花朵。這項奠基性的突破,最終演變成了今天的 ChatGPT 和 Google Bard。有意思的是,當年他的其中一名學生,後來正是 OpenAI 的首席科學家。

Hinton 坦言,自己以前總用藉口安慰自己:就算我沒做,別人早晚也會做出來。但現在看著技術擴散,他直言很難阻止壞人拿它來作惡。

壓垮他耐心的,是巨頭之間停不下來的軍備競賽。Hinton 過去很認可 Google 對這項技術的剋制與管理,直到微軟推出整合 OpenAI 技術的 Bing 搜尋引擎,直接威脅到 Google 的核心業務,並在 Google 內部觸發了「紅色預警」。

這種近乎失控的商業競速,讓 Hinton 深感不安。他最直接的擔憂是,網路上很快會被海量虛假影像和虛假文字淹沒,普通人再也無法分清到底什麼是真實的。

以為還要等半個世紀,其實已經到了

比起虛假資訊,更長遠的威脅來得更猛烈。Hinton 擔心,AI 不僅會消滅大量日常機械崗位,隨著它學會自己編寫和執行程式碼,甚至可能對整個人類構成生存威脅。

「以前只有極少數人相信這玩意兒能比人更聰明,絕大多數人都覺得還早得很,」Hinton 說道,「我過去也以為至少還要等 30 到 50 年,甚至更久。現在看來,顯然不是這樣了。」

面對老元勳的離職警告,Google 首席科學家 Jeff Dean 出面回應稱,Google 依然堅持負責任的 AI 路徑,在努力理解新風險的同時大膽創新。Hinton 隨後也在 Twitter 上澄清,自己並不是針對 Google 過往的管理,而是為了能夠自由發聲。

為什麼重要

如果連這項技術的核心奠基人都在後悔,說明 AI 的發展軌跡已經脫離了實驗室裡最初的理想設定。

對普通使用者和知識工作者來說,Hinton 的警告把一個現實擺到了檯面上:真假難辨的合成內容不再是科幻設定,而是日常必須面對的篩選成本;同時,腦力勞動的替代週期,比學術界過去的預測提前了幾十年。

在行業層面,這番表態戳破了巨頭們「負責任競爭」的體面。當微軟靠激進整合搶跑、逼得 Google 亮起「紅色預警」時,兩家公司就都已經停不下來了。在市場份額面前,任何自我約束都顯得極為脆弱。

我們認為,Hinton 選擇在這個節點離職發聲極其聰明。作為學術泰斗,他卸下了大廠僱員的利益枷鎖,發言更具公信力。但這也是一種無奈:當技術的發明者只能靠「拔掉自己的工牌」來換取說話的自由,看起來行業的剎車片,早就已經握在商業資本手裡了。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

話題追蹤Geoffrey Hinton 對 AI 風險的警告

這個話題的歷次新聞,最新的在上面。

  1. Geoffrey Hinton:AI 很可能會有情緒,甚至現在可能已經有了
  2. AI 教父 Hinton 敲警鐘:我不信「好 AI」一定能壓制「壞 AI」
  3. Geoffrey Hinton 警告:AI 對人類的威脅可能比氣候變化更緊迫
  4. 「AI 教父」Hinton 離職 Google:後悔畢生研究,警告風險失控本則

每日 AI 內容精選