跳到正文
IFAI

AI工具

微软推出 Web IQ 接地 API:专为 AI Agent 重构,延迟低于 165 毫秒

首次发布 传播指数 39

Microsoft 推出面向 AI 智能体的接地检索 API「Web IQ」。它基于 Bing 全球索引重构,不返回整篇网页,而是直接抽取段落级结构化证据以节省 token,p95 延迟低于 165 毫秒。这意味着多步推理智能体能以更低成本快速获取实时网络数据。

微软推出 Web IQ 接地 API:专为 AI Agent 重构,延迟低于 165 毫秒
图:blogs.bing.com

以前给 AI 连网找资料,流程大概是这样的:模型甩出一个关键词,搜索 API 抓回来几篇长长的网页全文,塞进上下文,模型再慢吞吞地翻找有用信息。

微软上线了名为 Web IQ 的一套 AI 原生网络检索 API。简单说,这是微软专门给 AI Agent 重新造的一个搜索引擎,底层用的是跑了几十年的 Bing 全球索引,但从检索、分块到排序全都重构了一遍。

不给网页全文,只喂关键证据

传统的网络搜索是做给人看的,人需要点进网页看全文。但 Agent 不是人,它在多轮推理任务里会反复检索,每次把上万字的整篇网页硬塞进上下文窗口,既费 token,又容易让大模型产生幻觉。

微软在 Web IQ 上的做法很干脆:不再返回完整文档,而是返回提炼好的段落级结构化证据。不管是网页、新闻、图片还是视频,系统都会先把最相关的片段挑出来,压缩上下文长度,换取更高的信息密度。

除了信息处理方式变了,底层架构也换了。微软把以前的 DiskANN 磁盘向量检索技术搬了进来,做成了分布式的检索架构,支持在全球数据中心之间快速路由。

压到 165 毫秒以下,跟对手拉开 2.5 倍差距

在 Agent 的执行链路里,检索速度直接决定了体验。要是查一次资料要等两三秒,一个需要反复查三四次才能完成的任务,用户早就退出了。

根据微软公布的基准测试,Web IQ 在五个主要数据中心(美西、美中北、美东、北欧和韩国)的测试中,p95 延迟压到了 165 毫秒以内。微软表示,在相同测试条件下,这个速度比上一代同类竞品快了将近 2.5 倍。

在检索质量方面,微软用了专门评估 Agent 检索的 GDSAT(接地满意度)指标,从完整度、时效性和权威性来打分。在一份包含 3000 个全球生产环境真实盲测查询的样本集里,Web IQ 的表现也超过了其他替代方案。

微软还特别提到,Web IQ 继承了 Bing 对开放互联网协议的遵守,默认遵循 robots 协议、出版商控制项和访问偏好,目前也在通过 IETF 等标准组织参与制定 AI 时代的互操作规范。

为什么重要

我们认为,微软推 Web IQ 最聪明的地方,在于它终于认清了普通搜索和 Agent 搜索的本质区别。

以前大批做 Agent 产品的开发者,要么拿 Google 或 Bing 的旧版搜索 API 凑合,要么自己写爬虫把网页抓回来做 RAG。这种做法不仅延迟不可控,每调用一次都在烧昂贵的输入 token,而且很容易撞上反爬或版权限制。

Web IQ 抓住了开发者最肉痛的两点:延迟和 token 成本。把 p95 压到 165 毫秒以内,意味着 Agent 终于有资本在后台跑多次链式检索,而不是被逼着把所有问题毕其功于一役。返回段落而非全文,也直接降低了每一次 API 调用的上下文开销。

不过隐患也显而易见。过度依赖系统自动提炼的证据段落,等于把事实筛选的前置权力交给了微软的嵌入和重排模型。一旦系统挑错了片段,下游的 Agent 就完全失去了纠错的机会。但对大部分被搜索延迟折磨的开发者来说,这套新工具依然值得第一时间拿去测一测。

来源 (1)

  1. [1]
    blogs.bing.com(在新标签页打开)原文blogs.bing.com

每日 AI 内容精选