跳到正文
IFAI

產業動態

OpenAI CTO 談 ChatGPT 爆火:上線幾小時後,所有準備徹底失效

首次發布 傳播指數 35

據報道,OpenAI CTO Mira Murati 透露團隊完全低估了 ChatGPT 的轟動程度,上線幾小時後所有前期預案就徹底失效,不得不迅速調整運營方式。她同時警告,各家科技巨頭的狂熱競速可能導致行業在安全上「逐底競爭」。

OpenAI CTO 談 ChatGPT 爆火:上線幾小時後,所有準備徹底失效
圖:businessinsider.com

如果你以為 OpenAI 推出 ChatGPT 時早已算好了一切,那可真把他們想得太神了。

OpenAI 技術長 Mira Murati 最近在接受《財富》(Fortune)雜誌採訪時坦白,面對當時公眾那種近乎狂熱的反應,他們自己其實完全被打了個措手不及。

準備全做足了,然後幾小時內作廢

Murati 透露,在產品釋出前,團隊確實預料到它會引起不小的反響,內部也認認真真做好了應對準備。

結果產品上線僅僅幾個小時後,所有的預先準備就徹底變得毫無意義了。

在龐大的訪問需求面前,OpenAI 只能迅速調整姿態,徹底改變原有的運轉方式,去適應技術迭代與使用者增長的驚人節奏。

ChatGPT 在 2022 年 11 月向公眾開放,上線僅 2 個月,使用者規模就迅速飆升到了 1 億,成了科技史上罕見的現象級產品。

軍備競賽與「比爛」的隱患

這款能迅速生成文本、幾乎能聊任何話題的聊天機器人,隨即在全球科技巨頭之間引爆了一場 AI 軍備競賽。

各家公司為了不掉隊,紛紛手忙腳亂地推出對標產品。Google 甚至直接拉響了內部「紅色警報」(code red),並在短短幾個月後倉促拿出了 Bard。

但隨著生成式大模型迅速普及,AI 頻繁產生幻覺、胡編亂造事實的問題也引發了激烈爭論。

Murati 在採訪中發出警告,認為各大科技公司爭先恐後搶著發產品的態勢,可能會引發一場在安全層面的「向下競底」(race to the bottom on safety)。

她表示,競爭本身並不是壞事,它確實能倒逼技術向前進步。但如果所有人的核心動力都只剩下搶先一步,完全無視潛在風險和所付出的代價,那就會演變成一個巨大的災難。

為什麼重要

對於每天都在用大模型的普通人和開發者來說,這類工具確實大幅改變了工作習慣,但模型幻覺的問題直到今天依然存在。各大廠商如果因為搶地盤而把尚未打磨好的模型倉促推向市場,使用者把 AI 當作資訊檢索或業務輔助時的踩坑成本就會成倍上升。

對整個行業而言,OpenAI 的爆發把巨頭們逼進了一個以周為單位迭代的角鬥場。Google 拉響警報倉促迎戰就是最好的例子。原本需要反覆推敲的安全稽核和對齊流程,在市場份額的壓力下不得不一縮再縮。

我們認為,Murati 坦承「沒準備好」,其實戳破了大模型行業的一個幻象:哪怕是這門技術的發明者,在面對指數級擴散的使用者網路時,同樣無法預估它的真實走勢。而她對「安全競底」的擔憂更指出了當前競爭的死穴。看起來,只要速度依然是衡量科技巨頭成敗的第一指標,哪家公司在安全把控上花時間,哪家就可能在市場聲量上落後。這種機制上的隱患,並不會因為某家高管的幾句口頭呼籲而自動消除。

來源 (1)

  1. [1]
    businessinsider.com(在新分頁開啟)原文businessinsider.com

每日 AI 內容精選