跳到正文
IFAI

大模型

Inflection 釋出 Inflection-1 大模型:對標 GPT-3.5,常識測試亮眼但程式碼落後

首次發布 傳播指數 47

AI 初創公司 Inflection 正式釋出自研底層大模型 Inflection-1,主要用於驅動對話助手 Pi。其訓練算力與能力對標 GPT-3.5,在常識與中小學測試表現亮眼,但程式碼能力明顯落後。團隊表示更強大的模型正在訓練中。

Inflection 釋出 Inflection-1 大模型:對標 GPT-3.5,常識測試亮眼但程式碼落後
圖:techcrunch.com

做大模型的初創公司很多,但敢直接擺上檯面跟 OpenAI 正面掰手腕的,圈子裡數得出名字的就那麼幾家。

主打「人人都有專屬個人 AI」的初創公司 Inflection 正式公開了自家的大語言模型 Inflection-1。這個模型其實早就默默幹活了,正是它在驅動公司此前推出的對話助手 Pi。

對標 GPT-3.5,常識打平但寫程式碼被虐

如果按照訓練消耗的計算資源來算重量級,Inflection-1 大致處於 GPT-3.5 這一檔。

Inflection 官方專門發了一份技術備忘錄,把自家模型拉去跟 GPT-3.5、Meta 的 LLaMA、DeepMind 的 Chinchilla 以及 Google 的 PaLM-540B 一起跑分。

根據他們公佈的成績單,Inflection-1 在同量級裡確實能打。在中學生水平的考試題,比如基礎生物學,以及日常生活常識推理上,它的表現都相當不錯,官方認為它完全不輸甚至優於同級別競品。

但在程式設計這項硬指標上,差距就一目瞭然了。GPT-3.5 輕鬆贏過 Inflection-1,要是拉出 GPT-4 來看,差距更是大到不在一個量級。

對此 Inflection 也並不避諱。他們透露,內部正在研發規模更大、用來對標 GPT-4 和 Google PaLM-2(L) 的新模型,目前還在烤箱裡慢慢烘焙。

說白了,AI 圈現在雖然還沒像拳擊界那樣嚴格按體重分量級,但邏輯完全相通。你不可能指望輕量級選手去擂臺上暴揍重量級拳王,小模型重在輕巧高效,大模型則必須靠算力堆出天花板能力。

為什麼重要

我們認為,Inflection-1 最大的意義,在於證明了非科技巨頭依然有能力從頭訓練出可用的基礎大模型。

對普通使用者來說,如果你日常只是想找個情緒穩定、擅長日常閒聊的虛擬夥伴,Pi 完全值得一試,它支援網頁端和多種即時通訊工具。但如果你指望拿它來寫程式碼或搞複雜的邏輯推導,那現在它顯然還替不掉 ChatGPT。

Inflection 的策略看起來非常聰明。他們很清楚自己在資源上沒辦法立刻跟微軟和 OpenAI 全面開戰,所以把技能點全點在了「常識理解」和「日常陪伴」上,精準避開了程式碼生成這個極其吃算力的硬骨頭。

但這裡的隱患也很明顯。現在的跑分全部來自官方自測,在沒有開放給研究界進行獨立客觀評測之前,所有光鮮的資料都得先打個問號。只要大家用上了更聰明的 GPT-4,誰還會長期留在一個只能聊家常的 GPT-3.5 級別助手身邊,也是 Inflection 接下來必須回答的問題。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選