跳到正文
IFAI

大模型

亞馬遜上線 Nova Premier:支援百萬上下文,主打複雜任務與模型蒸餾

首次發布 傳播指數 50

AWS 正式上線基礎模型 Amazon Nova Premier。它是 Nova 系列能力最強的多模態模型,支援 100 萬 token 上下文,主打多步驟規劃與多智慧體協作。它還能充當教師模型,幫助開發者將能力蒸餾至更小巧、便宜的 Nova 輕量模型中。

圖:aws.amazon.com

很多企業做 AI 智慧體時最頭疼的問題,其實不是模型不夠聰明,而是聰明的模型太貴太慢,便宜的模型又做不了複雜推理。

亞馬遜想用一種新辦法解這道題。AWS 宣佈 Amazon Nova Premier 正式上線,這也是 Nova 系列裡能力最強的旗艦基座模型。它支援 100 萬 token 的上下文,能同時處理文字、圖片和影片輸入,唯獨去掉了音訊。

在亞馬遜的評測裡,Nova Premier 在 17 項基準測試中拿下了家族內的最高分。和同級別的非推理模型相比,它在約一半的測試中持平或超越了競品,同時保持了同等智慧水平下的最低呼叫成本與更快速度。

讓大模型當全職老師

但亞馬遜並沒打算讓你把所有線上請求都扔給 Nova Premier。在官方設定裡,它最重要的角色其實是「教師模型」。

企業可以藉助 Bedrock 的模型蒸餾工具,讓 Nova Premier 去專門指導較小的 Nova Pro、Nova Lite 甚至微型的 Nova Micro。把複雜任務的推理邏輯提煉出來,灌進便宜快速的小模型裡。

亞馬遜自己做過一個試驗,用 Premier 蒸餾 Nova Pro 去處理複雜工具選擇和 API 呼叫。結果蒸餾後的 Nova Pro 在 API 呼叫準確率上提升了 20%,表現幾乎追平了 Premier,但推理成本和延遲依然保持在 Nova Pro 的水準。

企業也可以用它來搭多智慧體架構。比如在金融研報場景下,讓 Premier 充當主管智慧體,負責拆解問題並分派任務給底層專業子智慧體。等跑通整套流程、積累了互動資料後,再把它蒸餾成專用的 Nova Micro 放到生產環境直接接客。

Slack 高階主任工程師 Curtis Allen 透露,在他們的互動分析測試裡,Premier 的成本差不多隻有同類領先模型的一半。Robinhood 和 Snorkel AI 也表示,這種把頂級智慧蒸餾給小模型的能力,是把多智慧體從原型推向實用的關鍵。

目前 Nova Premier 已經通過跨區域推理在美東和美西的三個 AWS 區域開放,美國使用者也可以直接在專用網頁體驗。

為什麼重要

我們認為,亞馬遜這次最聰明的地方,是沒有陷在單純卷大模型跑分的泥潭裡,而是給企業指了一條現實的工程落地路徑。

很多開發者和企業心裡都清楚,直接在業務裡全量呼叫頂級大模型,錢包根本扛不住。Nova Premier 一露面就把自己定位於蒸餾教師和主管協調者,等於告訴客戶:最貴的大腦你只需要用幾次,日常幹活全靠低成本徒弟。這讓很多預算有限的團隊現在就值得去跑跑測試。

對雲服務市場來說,這進一步把競爭從單點模型能力引向了平臺工程鏈條。微軟有 OpenAI,Google 有 Gemini,亞馬遜則把賭注押在算力成本與模型精簡流水線上。如果小模型靠蒸餾就能達到 90% 以上的大模型效果,企業採購算力的邏輯就會徹底改變。

不過隱患也在這裡。蒸餾的上限取決於 Premier 本身的邏輯天花板,而且它目前明確不包含音訊處理能力。如果企業的業務依賴跨模態語音互動,或者需要超複雜的長鏈條硬核推理,單靠現在的 Nova 系列可能還接不住所有盤子。

來源 (1)

  1. [1]
    aws.amazon.com(在新分頁開啟)原文aws.amazon.com

每日 AI 內容精選