跳到正文
IFAI

大模型

亚马逊上线 Nova Premier:支持百万上下文,主打复杂任务与模型蒸馏

首次发布 传播指数 50

AWS 正式上线基础模型 Amazon Nova Premier。它是 Nova 系列能力最强的多模态模型,支持 100 万 token 上下文,主打多步骤规划与多智能体协作。它还能充当教师模型,帮助开发者将能力蒸馏至更小巧、便宜的 Nova 轻量模型中。

图:aws.amazon.com

很多企业做 AI 智能体时最头疼的问题,其实不是模型不够聪明,而是聪明的模型太贵太慢,便宜的模型又做不了复杂推理。

亚马逊想用一种新办法解这道题。AWS 宣布 Amazon Nova Premier 正式上线,这也是 Nova 系列里能力最强的旗舰基座模型。它支持 100 万 token 的上下文,能同时处理文字、图片和视频输入,唯独去掉了音频。

在亚马逊的评测里,Nova Premier 在 17 项基准测试中拿下了家族内的最高分。和同级别的非推理模型相比,它在约一半的测试中持平或超越了竞品,同时保持了同等智能水平下的最低调用成本与更快速度。

让大模型当全职老师

但亚马逊并没打算让你把所有线上请求都扔给 Nova Premier。在官方设定里,它最重要的角色其实是「教师模型」。

企业可以借助 Bedrock 的模型蒸馏工具,让 Nova Premier 去专门指导较小的 Nova Pro、Nova Lite 甚至微型的 Nova Micro。把复杂任务的推理逻辑提炼出来,灌进便宜快速的小模型里。

亚马逊自己做过一个试验,用 Premier 蒸馏 Nova Pro 去处理复杂工具选择和 API 调用。结果蒸馏后的 Nova Pro 在 API 调用准确率上提升了 20%,表现几乎追平了 Premier,但推理成本和延迟依然保持在 Nova Pro 的水准。

企业也可以用它来搭多智能体架构。比如在金融研报场景下,让 Premier 充当主管智能体,负责拆解问题并分派任务给底层专业子智能体。等跑通整套流程、积累了交互数据后,再把它蒸馏成专用的 Nova Micro 放到生产环境直接接客。

Slack 高级主任工程师 Curtis Allen 透露,在他们的交互分析测试里,Premier 的成本差不多只有同类领先模型的一半。Robinhood 和 Snorkel AI 也表示,这种把顶级智能蒸馏给小模型的能力,是把多智能体从原型推向实用的关键。

目前 Nova Premier 已经通过跨区域推理在美东和美西的三个 AWS 区域开放,美国用户也可以直接在专用网页体验。

为什么重要

我们认为,亚马逊这次最聪明的地方,是没有陷在单纯卷大模型跑分的泥潭里,而是给企业指了一条现实的工程落地路径。

很多开发者和企业心里都清楚,直接在业务里全量调用顶级大模型,钱包根本扛不住。Nova Premier 一露面就把自己定位于蒸馏教师和主管协调者,等于告诉客户:最贵的大脑你只需要用几次,日常干活全靠低成本徒弟。这让很多预算有限的团队现在就值得去跑跑测试。

对云服务市场来说,这进一步把竞争从单点模型能力引向了平台工程链条。微软有 OpenAI,Google 有 Gemini,亚马逊则把赌注押在算力成本与模型精简流水线上。如果小模型靠蒸馏就能达到 90% 以上的大模型效果,企业采购算力的逻辑就会彻底改变。

不过隐患也在这里。蒸馏的上限取决于 Premier 本身的逻辑天花板,而且它目前明确不包含音频处理能力。如果企业的业务依赖跨模态语音交互,或者需要超复杂的长链条硬核推理,单靠现在的 Nova 系列可能还接不住所有盘子。

来源 (1)

  1. [1]
    aws.amazon.com(在新标签页打开)原文aws.amazon.com

每日 AI 内容精选