跳到正文
IFAI

大模型

Google 推出 Gemini 2.5 Flash:首个混合推理模型,思考预算可自选

首次发布 传播指数 56

Google 推出 Gemini 2.5 Flash 预览版。这是其首个混合推理模型,开发者可自由开启或关闭「思考」过程,并在 0 到 24576 个 token 之间灵活调节思考预算,方便在回答质量、调用成本与响应延迟之间取得平衡。

Google 推出 Gemini 2.5 Flash:首个混合推理模型,思考预算可自选
图:developers.googleblog.com

以前用推理模型,最让人头疼的就是钱包和延迟。让 AI 回答一句简单的客套话,它也得在后台暗自琢磨几秒钟,扣掉几百个 token 的钱。

Google 在 Google AI Studio 和 Vertex AI 预览上线了 Gemini 2.5 Flash。它主打所谓「混合推理」,最大的看点不是刷了多高的分,而是把推理思考的主动权交还给了开发者。

让 AI 思考,现在可以限额了

以往用带推理功能的模型,你想让它快一点或者省一点,基本没得选。这次 Gemini 2.5 Flash 直接给 API 和 Web 端塞了一个滑动条:思考预算(thinking budget)。

这个预算上限最高可以拉到 24576 个 token。如果你只是拿它做日常翻译或者提取字段,直接把预算设为 0,它就退回成普通的快速响应模式,速度和 2.0 Flash 一样快,但基础性能依然有提升。

更有意思的是它的动态判断机制。设定了预算只是定了一个天花板,如果任务本身不难,比如问它加拿大有几个省,模型根本不会硬把配额用完,而是自动早早交卷。

只有遇到双骰子概率计算、复杂的排班规划,或者材料力学里悬臂梁的最大弯曲应力这种硬骨头,它才会吃进更多思考 token,把每一步推导清楚。

成绩单上的越级表现

除了能控成本,Gemini 2.5 Flash 展现出的纸面战斗力也挺夸张。据报道,它的推理和 STEM 基准表现不仅追平了 OpenAI 的 o4-mini,还在推理和科学基准上超越了 Claude 3.5 Sonnet。

在 LMArena 的 Hard Prompts 榜单上,它的表现也排在很前面,官方称其仅次于自家大哥 2.5 Pro。对于一款定位在 Flash 级别、主打轻量性价比的模型来说,越级打怪已经成了常态。

目前这个预览版模型型号为 gemini-2.5-flash-preview-04-17,已经在 API 和 Vertex AI 开放,普通用户在 Gemini 网页版的下拉菜单里也能看到实验选项。

为什么重要

我们认为,Google 这次给行业指出了一条非常务实的路:推理不应该是非黑即白的开关,而应该是一个可调节的旋钮。

对于业务开发者来说,过去想把类似 o3 或 o4-mini 的深度思考引入高频业务,成本和延迟往往会直接劝退老板。现在你可以给不同接口设置不同的思考上限,甚至在同一套逻辑里按场景调参,高并发场景省下的都是真金白银。

对行业而言,这场较量正在从单纯比拼最高智力上限,转向比拼单 token 产出的性价比。OpenAI 前脚刚发新品,Google 紧接着就在轻量化推理上交出答卷,逼着对手也必须在推理成本控制上拿出更细粒度的工具。

不过,这种自适应思考也有隐患。由于模型会自行感知复杂度并决定思考步数,实际响应时间和扣费可能会出现波动,对于极其看重延迟上限的线上业务,开发者还是需要仔细做回归测试,或者干脆把预算焊死在特定数值上。

来源 (1)

  1. [1]
    developers.googleblog.com(在新标签页打开)原文developers.googleblog.com

话题追踪Google Gemini 模型系列

这个话题的历次新闻,最新的在上面。

  1. Google 推出 Gemini 2.5 Flash:首个混合推理模型,思考预算可自选本条
  2. Google 开放 Veo 2 视频生成 API:支持图文生成 8 秒镜头
  3. Google开发者大放送:Veo 2视频模型上线API,2.5 Flash即将到来
  4. Google 升级 Deep Research:由 Gemini 2.5 Pro 驱动,支持转播客
  5. Google 开放 Gemini 2.5 Pro 免费体验:网页端直接用,能看「思考过程」

每日 AI 内容精选