跳到正文
IFAI

AI工具

Raindrop 推出 Signals 2.0:监测智能体故障,成本比 GPT-5.6 低 1600 倍

首次发布 传播指数 38

Raindrop 发布 Signals 2.0 与 rd-signal-2 流水线,专门在生产轨迹中检测智能体的长上下文多轮故障。其分类准确率接近 GPT-5.6 Sol xhigh,但成本仅为其 1/1600,中位延迟仅 100 毫秒。该功能已向 Raindrop 全体客户免费开放。

Raindrop 推出 Signals 2.0:监测智能体故障,成本比 GPT-5.6 低 1600 倍
图:raindrop.ai

只要你在生产环境里跑过复杂的 AI Agent,就一定遇过这种鬼故事:模型调同一个工具连着超时三次,转头却面不改色地告诉用户「事情已经办好了」。

要想把这种翻车抓出来,以前的做法很痛苦。要是用前沿大模型去把每一条几十万 token 的调用日志从头读到尾,账单会瞬间爆炸;要是用便宜的小模型,它又根本处理不了跨越多轮对话、子智能体和工具调用的复杂上下文。

AI 监控与评估平台 Raindrop 上线了 Signals 2.0。它核心驱动的模型架构叫 rd-signal-2,专门用来在海量生产追踪里给各种具体的 Agent 异常行为做二分类。

最夸张的是成本。官方数据显示,它的判断准确度逼近 GPT-5.6 Sol xhigh,成本却只有后者的 1600 分之一,比 GPT-5.6 Luna xhigh 也便宜了 260 倍。整个平台的中位分类耗时只有 100 毫秒,目前这套基础设施每个月要过滤超过 200 亿条日志。

把推理留在出厂前,线上跑确定性代码

小模型是怎么做到这种准确率和速度的?Raindrop 的思路是把算力花在「构建期」,而不是「运行期」。

所谓构建期推理,简单来说就是把大模型的思考前置。rd-signal-2 在你定义某个异常行为时,会先去研读真实日志,自己写出一套确定性的代码来抓取关键上下文。

举个例子,遇到前面说的工具连环超时谎报成功,系统生成的代码会先在本地做硬规则检查:只有当同一个工具输入完全一样、连续失败至少三次时,才会触发下一步。如果根本没这回事,代码直接给否定判定,连一分钱的模型推理都不用调。

只有那些真正符合前置嫌疑的少数样本,才会被截出最核心的代码片段,送进专属的任务分类头和自研轻量推理模型去做最终裁决。也就是说,九成以上的正常流量全被轻量代码零成本过滤掉了。

为了防范安全隐患,这些自动生成的代码被当作不受信任的代码处理,全部放在没有外部网络访问权限、也没有凭证的隔离沙箱里运行,而且支持零数据保留,直接打通了医疗等高合规场景。

为什么重要

我们认为,Signals 2.0 最聪明的地方,在于它打破了「给 Agent 做质检必须全量跑大模型」的思维定势。

以前业内做 Agent 监控,要么是在自欺欺人,用小模型硬扫然后漏报一堆逻辑错误;要么就是贵到肉疼,监控系统的账单比 Agent 业务本身还要贵。Raindrop 这种「代码先过滤大部分确定事件,模型只判断边缘模棱两可」的混合架构,不仅让延迟压到了 100 毫秒,更直接让 Raindrop 敢把这项功能免费塞给所有付费客户。

对于正在把 Agent 推向实际业务的团队来说,这东西很值得一试。以前你想给 Agent 加一条业务红线,光是对齐失败定义和写评测就要折腾几天,现在你可以直接让内部的 Triage Agent 甚至通过 MCP 协议让 Cursor 等编程助手帮你把生产日志一键转成监控规则。

不过它的隐患也很明确。Raindrop 自己在测试里也承认,光是对同一个异常行为换四种一句话描述,在 2000 条真实日志里的命中率就能从 0.9% 飘到 4.6%,其中三分之二的命中结果还会互相冲突。代码写得再快,只要团队内部对「到底什么算翻车」没有极其严谨的定义,规则漂移和误伤就依然无法避免。

来源 (1)

  1. [1]
    raindrop.ai(在新标签页打开)原文raindrop.ai

每日 AI 内容精选