Google 发布 Gemini 3 Pro:主打视觉推理,支持像素级定位与高帧率视频
Google 发布多模态模型 Gemini 3 Pro,主打物理空间与视频推理。模型支持输出像素级坐标以辅助机器人和屏幕操作,视频解析采样提升至 10 FPS,还能将复杂文档直接反向解析为 LaTeX 或代码。

以前让大模型看图,它最多告诉你「图里有一只猫」或者把字抄下来。真遇到密密麻麻的财报折线图、手写公式,或者一段飞速挥杆的高尔夫视频,模型往往就开始胡说八道。
Google 在 12 月 5 日发布了 Gemini 3 Pro 的视觉能力更新。按照官方的说法,这次迭代直接跨过了单纯的图像识别,开始走向真正的空间与因果推理。新模型在 MMMU Pro、Video MMMU 等主流视觉基准上刷新了纪录,重点补齐了文档解析、空间定位、屏幕操作以及高帧率视频四大能力。
逆向工程文档与像素级「指哪打哪」
现实里的文档往往乱七八糟,手写笔记、非线性排版、嵌套表格混在一起。Gemini 3 Pro 这次拿出了所谓「反渲染」能力,也就是直接把图像逆向解析成 HTML、LaTeX 或 Markdown 代码。比如把 18 世纪的手写商人账本还原成规整表格,或者把草稿纸上的手写公式直接变成 LaTeX 代码。
在图表推理基准 CharXiv 上,Gemini 3 Pro 拿下了 80.5% 的得分,官方表示这已经超过了人类基准线。给它一份 62 页的美国人口普查收入报告,它能自己对比两年的基尼系数变动,并推导出税后数据分歧的原因。
空间理解方面,模型不再只给模糊的大致范围,而是可以直接输出像素级精准的 2D 坐标。几个坐标连起来就能做人体姿态估计或动作轨迹追踪。在机器人和 AR 场景下,用户可以说「看着这堆乱七八糟的桌子,给个垃圾分类方案」,或者戴着眼镜问「按照说明书,指给我看该拧哪个螺丝」。
屏幕理解也顺理成章地提升了。它能高精度识别桌面和手机操作系统的 UI 界面并点击对应位置,这显然是冲着自动化 Agent、软件测试和自动引导去的。
拆解 10 帧视频,还能自己挑分辨率
看视频是这次提升最大的地方。以前大模型看视频通常按每秒一帧甚至更低来抽样,很多瞬时动作直接漏掉。Gemini 3 Pro 将采样率提升到了 10 FPS,也就是默认速度的 10 倍,官方演示用它来拆解高尔夫球手的挥杆轨迹和重心转移。
配合升级后的「思考模式」,模型不再只是给视频打标签,而是能推导因果关系,理解一件事为什么发生。它还能把长视频内容直接转成可运行的应用或代码。
对于开发者来说,一个很实用的新功能是 media_resolution 参数。模型现在会保留图片的原始宽高比,并且允许开发者按需调整分辨率。需要做精细 OCR 或复杂文档分析时开高分辨率,普通的场景识别或超长上下文时切到低分辨率,以此来控制 token 消耗和响应延迟。
在垂直行业应用上,新模型刷榜了 MedXpertQA-MM、放射影像问答 VQA-RAD 以及显微镜生物研究的 MicroVQA,在教育领域也能直接在学生上传的作业照片上圈出具体错在哪一步。
为什么重要
我们认为,Google 这次对 Gemini 3 Pro 视觉能力的打磨非常务实。它没有去卷空泛的多模态概念,而是把劲全使在了最有商业价值的场景上:报表理解、屏幕自动化、高帧率视频动作分析。
对开发者和企业来说,文档「反渲染」和高精度的屏幕坐标意味着很多原本需要拼凑好几个专用 OCR 和检测模型的工作流,现在可以收拢到一个通用大模型里。特别是 media_resolution 参数的开放,说明 Google 清楚视觉 token 成本是阻碍开发者落地的最大痛点,给开发者留出了成本调优的阀门。
从行业竞争来看,这直接对标了 Anthropic 之前主打的 Computer Use 和复杂长文档分析能力,同时也向 OpenAI 的多模态能力施压。Google 坐拥视频和浏览器生态,如果把高帧率视频理解与精确的 UI 交互结合起来,未来在自主操作系统的 Agent 落地速度上可能会比对手更快。
不过隐患同样存在。视频提到 10 FPS 虽然细节丰富,但处理极长视频时的推理成本和计算延迟到底有多高,官方并没有公布明确的开销账单。对于普通团队来说,在真实生产环境里跑这种高精度的视觉推理,可能依然需要先仔细算一算账。
来源 (1)
- blog.google(在新标签页打开)原文blog.google