跳到正文
IFAI

產業動態

OpenAI 前首席科學家另起爐灶:Ilya 創辦 SSI,只做安全超級智慧

首次發布 傳播指數 44

OpenAI 聯合創始人兼前首席科學家 Ilya Sutskever 宣佈成立新公司 Safe Superintelligence Inc.(SSI)。該團隊表示只有一個目標和一個產品,即安全強大的超級智慧,且商業模式將完全免受短期商業化週期的干擾。

OpenAI 前首席科學家另起爐灶:Ilya 創辦 SSI,只做安全超級智慧
圖:theverge.com

離開 OpenAI 一個月後,Ilya Sutskever 終於亮出了他的下一步。他沒有去做新的聊天機器人,也沒搞什麼企業級大模型套件,而是直接成立了一家名字直白到極端的公司:Safe Superintelligence Inc.,簡稱 SSI。

這家新公司的官方口徑非常決絕:只有一個目標、一個產品,那就是做出安全的超級人工智慧。在搞定這件事之前,他們不會做任何其他東西。

只有一個產品,並且拒絕被商業推著走

根據 SSI 的官方宣告,這家公司的核心邏輯是把安全與能力綁在一起推進,既不放慢技術突破,也不向安全妥協。

更有意思的是他們對商業模式的定義。聲明裡直接把矛頭對準了同行面臨的外部壓力,直言大多數 AI 團隊都被管理內耗和頻繁的產品迭代週期牽扯了精力。

SSI 宣稱自己的商業模式能讓安全、防禦與技術進步完全隔絕於短期商業利益之外。用他們自己的話說,這樣才能安靜地推進擴充套件。

團隊方面,除了 Ilya Sutskever 本人,聯合創始人還包括前蘋果 AI 負責人 Daniel Gross,以及曾在 OpenAI 技術團隊任職的 Daniel Levy。

在接受彭博社採訪時,Ilya 再次強調,他們的第一款產品就是安全的超級智慧,在此之前公司什麼副業都不會碰。

安全派大出走之後的正面對決

瞭解過去半年 OpenAI 風波的人,對這一幕肯定不陌生。

去年正是 Ilya 帶頭推動罷免 OpenAI 執行長 Sam Altman,雖然那場風波很快以 Altman 重新迴歸告終,但裂痕顯然沒有真正修復。

今年 5 月 Ilya 正式離開 OpenAI,當時就暗示會有新去向。緊接著,知名 AI 研究員 Jan Leike 也宣佈辭職,並公開批評 OpenAI 的安全研究已經讓位給光鮮的產品。政策研究員 Gretchen Krueger 離開時,同樣表達了對安全問題的擔憂。

現在局勢變得很有戲劇性:OpenAI 正在緊鑼密鼓地推進與蘋果、微軟的深度商業繫結,急於把技術塞進每一臺裝置裡;而出走的靈魂人物 Ilya,則選擇徹底把公司關在實驗室裡,連商業化介面都不打算做。

為什麼重要

對普通使用者來說,你短期內絕不可能在應用商店下載到一個叫 SSI 的 App,甚至也不會看到任何向開發者開放的 API 介面。它現在不為你提供生產力工具,它的全部賭注都在終局。

對整個行業而言,SSI 的出現是一次極其罕見的極端實驗。在目前整個矽谷都被模型跑分、使用者增長和雲服務收入綁架的環境下,居然有人能憑著頂級科學家的號召力,試圖拉起一支完全不背商業指標的純科研特種部隊。

我們認為,Ilya 的做法極其純粹,也極其聰明地切中了當下 AI 頂尖人才的痛點。很多厭倦了天天給消費級功能打補丁的頂尖研究員,很可能會被這種完全隔絕管理內耗的口號吸引過去。

但這裡的隱患也寫在明處。訓練前沿模型需要難以想像的算力與資金支援,SSI 既不賣軟體也不做企業服務,投資人的耐心究竟能維持多久?純粹依靠情懷和資本輸血,能否在沒有真實世界海量使用者反饋的情況下跑通超級智慧?這看起來會是 AI 歷史上最昂貴的一場孤注一擲。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

每日 AI 內容精選