跳到正文
IFAI

產業動態

Sam Altman 談 OpenAI 風波與 AGI:更擔憂超級智慧而非內訌

首次發布 傳播指數 34

在獲評《時代》週刊年度 CEO 後,OpenAI 執行長 Sam Altman 接受專訪。他表示董事會風波促成了反思,治理必須跟上技術演進。他強調 AGI 將是人類迄今最強大的技術,比起辦公室政治,他更擔憂超級智慧的治理以及 2024 年選舉中的 AI 虛假資訊風險。

Sam Altman 談 OpenAI 風波與 AGI:更擔憂超級智慧而非內訌
圖:therundown.ai

剛經歷完一場差點把自己踢出局的董事會內鬥,Sam Altman 拿到了《時代》週刊的 2023 年度 CEO。在週二舉辦的活動上,他和《時代》主編對談,把那場轟動全球的宮鬥劇拆開來聊,順便給接下來的 AGI 潑了點冷水,也打了點氣。

Altman 承認,11 月中旬那場突如其來的解僱對他個人來說極其痛苦。但他覺得 OpenAI 經此一役反而更團結了。按他的說法,這類震盪早晚會來,只是沒想到來得這麼快。

宮斗的根源是大家都慌了

很多人以為董事會逼宮是純粹的權力鬥爭,但 Altman 給出了另一個視角:離超級智慧越近,局裡的人就越焦慮。

他說,隨著技術賭注越來越大,大家承受的壓力也在激增。這次震盪暴露出來的最大問題,就是 OpenAI 原本那套治理體系根本沒準備好。

Altman 說得很直白,OpenAI 過去總強調 AGI 不能被少數人掌控,要走向民主化,但這次風波證明他們在治理上顯然搞砸了。如果接下來不徹底整改治理結構,外界確實沒有理由繼續信任 OpenAI。

比造謠圖更可怕的,是個性化洗腦

聊到 AGI 的未來,Altman 依舊堅信它是人類有史以來最強大的技術發明。智慧的成本會大幅下降,質量大幅提升,科幻小說裡描繪的世界正在變成現實。

但他花了不少篇幅警告即將到來的 2024 年大選風險。外界現在擔心的假資訊,往往是網路水軍做一張煽動性的梗圖然後全網瘋傳。

在 Altman 看來,這種操作在 AI 時代已經過時了。他真正害怕的是深度定製的資訊投毒:如果一個 AI 讀取了你在網上公開寫過的所有文字,徹底摸清了你的偏好和弱點,然後在最關鍵的時刻給你傳送一條量身定製的資訊,直接撼動你的世界觀,民主機制根本防不住。

即便有這些風險,他還是預測到這個十年結束時,世界會變得好得多,不過他也補了一句,技術預測往往是不準的。

為什麼重要

對於每一個把業務或日常工作押在 OpenAI 上的開發者和普通人來說,這場對話透露出的訊號很複雜。一方面,你不需要擔心 OpenAI 會放慢腳步,Altman 重新掌舵後研發只會更激進;但另一方面,資料隱私和模型安全已經不再是抽象的倫理議題,而是緊迫的現實威脅。個性化定製的虛假資訊如果真的在 2024 年大選中爆發,各國監管機構對大模型的反撲只會來得更猛烈,屆時普通使用者呼叫 API 的稽核門檻和合規成本大機率會水漲船高。

對整個 AI 行業來說,Altman 這番話實際上重新定義了這場競爭的性質。這不再是一家初創公司做產品的遊戲,而是巨頭們頂著超級智慧帶來的恐懼向前狂奔。其他競爭對手比如 Google 和 Anthropic,現在面臨的不僅是技術引數的追趕,還有如何在治理機制上證明自己比混亂的 OpenAI 更靠譜。

我們認為,Altman 承認我們在治理上搞砸了,這步姿態做得很聰明。他巧妙地把一場管理層內訌包裝成了人類面對超級智慧時的必然陣痛,既給了公眾交代,又把 OpenAI 擺在了科技前沿普羅米修斯的位置。但隱患並沒有真正消除,目前的董事會重組只是暫時的妥協,只要絕對控制權依然向少數核心高管傾斜,商業利益與安全使命之間的結構性矛盾就隨時可能再次引爆。

來源 (1)

  1. [1]
    time.com(在新分頁開啟)原文time.com

話題追蹤OpenAI 領導層危機

這個話題的歷次新聞,最新的在上面。

  1. OpenAI 政策研究員 Rosie 離職:AGI 準備團隊解散後難以為繼
  2. OpenAI 聯合創始人 Brockman 結束休假歸隊:將聚焦重大技術挑戰
  3. OpenAI 再失安全領軍人:研究副總裁 Lilian Weng 宣佈離職
  4. OpenAI 推進營利性轉型:已就重組與加州監管部門展開接洽
  5. OpenAI 完成 66 億美元新融資:投後估值達 1570 億美元

每日 AI 內容精選