跳到正文
IFAI

大模型

Anthropic 釋出 Claude Instant 1.2:支援 10 萬上下文,程式設計數學齊升級

首次發布 傳播指數 48

Anthropic 推出輕量低成本模型 Claude Instant 1.2。新版本融入了旗艦模型 Claude 2 的能力,支援 10 萬 token 上下文,在程式設計與數學基準測試中分別提升至 58.7% 與 86.7%,同時降低了幻覺率並增強抗越獄能力,已開放 API 呼叫。

Anthropic 釋出 Claude Instant 1.2:支援 10 萬上下文,程式設計數學齊升級
圖:techcrunch.com

如果把大模型裡的旗艦型號比作效能強悍的跑車,那多數開發者在看一眼 API 賬單之後,其實更想要一輛省油又抗造的小鋼炮。

由前 OpenAI 高管創辦的 Anthropic,剛剛給自家的入門級模型升了級,正式釋出 Claude Instant 1.2。這個版本主打速度更快、價格更低,專門通過 API 向開發者提供。

小模型吃到了旗艦紅利

新版最核心的變化,是把旗艦大哥 Claude 2 的底子借了過來,尤其補齊了數學、程式碼、推理和安全上的短板。

根據 Anthropic 公佈的內部測試資料,Claude Instant 1.2 在程式碼基準測試中的得分從上一代的 52.8% 漲到了 58.7%,數學題測試得分也從 80.9% 拉高到了 86.7%。

不僅算得更準,它說話也變規矩了。官方表示,新版能生成更長、結構更清晰的回答,聽從格式排版的要求也更嚴格,同時在引用原文提取、多語言能力和問答上都有進步。

對企業來說同樣重要的是安全。Anthropic 提到,新模型生成胡言亂語的幻覺機率降低了,面對各種精心設計的越獄提示詞,抵禦能力也明顯變強。

更狠的是上下文長度。Claude Instant 1.2 直接配齊了和 Claude 2 一樣的 10 萬 token 上下文視窗,換算下來大概能一口氣讀完 7.5 萬個英文單詞,相當於整本《了不起的蓋茨比》。

便宜量又足背後的算盤

大上下文模型最大的好處,就是不容易在前腳說完後腳就忘,處理長文本任務時優勢很明顯。

Anthropic 自己的最終野心,是做出能自我學習的下一代 AI 演算法,去搞定收發郵件、調研做研究乃至寫書做圖的全能虛擬助手。但那種終極武器顯然不是今天的 Claude Instant。

現在的 Instant,說白了就是 Anthropic 派去搶地盤的前鋒,正面硬剛 OpenAI 的入門級 API,順便防守 Cohere 和 AI21 Labs 等一眾同行。

這家 2021 年由 Dario Amodei 帶隊創立的公司,目前已經拿了 14.5 億美元融資,估值在小几十億美元上下。不過按照他們自己給投資人看的賬本,要想做出真正心儀的下一代聊天機器人,未來兩年還得燒掉整整 50 億美元。

為什麼重要

我們認為,Anthropic 這次把 10 萬 token 上下文直接下放到低配廉價模型,是一步非常聰明的棋。

對廣大開發者和獨立創作者來說,以往想處理幾十頁的合同、財報或整本電子書,只能咬牙去呼叫昂貴且響應偏慢的旗艦模型。現在用便宜又跑得快的 Instant 1.2 就能塞進整本書,做長文件檢索和批次資訊提取的門檻一下子被砍掉了一大截,很值得現在就接入測試。

在行業競爭上,這招直接把壓力甩給了 OpenAI 以及 Cohere 等對手。入門級模型往往是走量換收入、繫結開發者生態的主力軍,當入門模型也能扛住 10 萬上下文且程式碼數學大漲時,競品單純拼價格就很難受了。

不過看起來潛在的考驗也很實在:在 10 萬 token 的龐大負載下,輕量模型能否在實際高併發生產中繼續守住速度優勢,幻覺率是否真如官方測試那樣穩定,仍需要開發者在真實業務裡檢驗。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選