跳到正文
IFAI

大模型

Google 发布 Gemini 1.5 新版:数学提升两成,Pro 降价 64%

首次发布 传播指数 52

Google 推出更新版 Gemini-1.5-Pro-002 与 Flash-002,数学成绩提升约 20%,默认输出更简练。10 月 1 日起 1.5 Pro 输入降价 64%、输出降价 52%,API 速率上限也大幅提高。开发者能以更低成本运行更聪明的模型。

Google 发布 Gemini 1.5 新版:数学提升两成,Pro 降价 64%
图:developers.googleblog.com

如果你这阵子一直在用大模型处理上千页的 PDF 或者长视频,肯定经常被两件事困扰:费用太贵,以及模型废话太多。现在,Google 打算把这两个痛点一起解决了。

Google 宣布推出两个生产级新版本:Gemini-1.5-Pro-002 和 Gemini-1.5-Flash-002,同时还更新了小尺寸实验模型 Gemini-1.5-Flash-8B-Exp-0924。开发者现在就可以在 Google AI Studio 和 Gemini API 上免费调用,企业用户也能在 Vertex AI 上用起来。

提分、降费,还不爱说废话了

这次更新最直接的变化是性能提升。在难度更高的 MMLU-Pro 基准测试中,两个新模型的成绩都提高了大约 7%。在数学测试 MATH 和内部竞赛数学集 HiddenMath 上,表现更是直接跳涨了约 20%。视觉理解和 Python 代码生成能力也提升了 2% 到 7%。

除了硬指标,Google 还对模型的输出风格动了刀。根据开发者反馈,新模型在摘要、问答和信息抽取等场景下的默认输出长度缩短了 5% 到 20%。模型说话变得更精炼,不仅省时间,还能帮开发者省下不少生成 token 的成本。

更狠的是直接降价。从 2024 年 10 月 1 日起,对于 128K token 以内的提示词,Gemini 1.5 Pro 的输入 token 价格直降 64%,输出 token 降价 52%,上下文缓存增量 token 也降了 64%。

为了让高并发业务跑得更顺,付费层的速率限制也大幅放宽。1.5 Flash 的请求上限从每分钟 1000 次提到 2000 RPM,1.5 Pro 则从 360 RPM 翻倍到了 1000 RPM。针对此前容易误伤的安全拦截问题,Google 减少了不必要的拒答,并且在新模型上不再默认开启安全过滤器,改由开发者根据具体场景自己配置。

为什么重要

对开发者和企业来说,Gemini 1.5 Pro 最大的护城河一直是 200 万 token 的超长上下文窗口。但过去很多人不敢在核心生产线上全量跑,核心顾虑就是成本和并发限额。这次输入直降 64%、并发直接翻倍甚至翻倍多,意味着处理长文档、长视频以及代码库分析的经济账终于算得过来了,非常值得开发者现在重新评估上线成本。

在行业层面,这看起来是 Google 对 OpenAI 等竞争对手发起的一场针对性价格战与工程化反击。大模型竞争正在从纯粹的刷榜,转向延迟、吞吐量和调用成本的综合较量。Google 依托自己的基础设施把成本大幅打下来,会倒逼其他大模型厂商进一步调低旗舰模型的 API 定价。

我们认为,Google 这次最聪明的改动其实是顺应开发者需求把默认输出改短,并且取消了默认的安全过滤器。以前那种一问就长篇大论、动不动就触发拒答的机制,在生产环境中非常折磨人。放宽控制权给开发者,把模型打磨得更像好用的工程积木,这才是 API 走向成熟该有的样子。

来源 (1)

  1. [1]
    developers.googleblog.com(在新标签页打开)原文developers.googleblog.com

话题追踪Google Gemini 模型系列

这个话题的历次新闻,最新的在上面。

  1. Google 扩展 Veo 3:AI Ultra 进英国,手机端 Gemini 也能生成视频
  2. Google Veo 3 扩大开放:新增 71 国,Gemini 与 Flow 额度上调
  3. Google推出顶级订阅AI Ultra:月费249.99美元打包最新模型
  4. Google 编程智能体 Jules 开启公测:异步改代码,还能听更新
  5. Google 升级 Gemini:Live 视觉功能免费,内置 Veo 3 与 Imagen 4

每日 AI 内容精选