跳到正文
IFAI

AI工具

Ramp 推出大模型路由服務 Router:支援多廠商 API,年底前免費

首次發布 傳播指數 38

企業支出管理平臺 Ramp 推出模型路由服務 Router。該服務基於其三年內部實踐,允許企業通過統一 API 呼叫 OpenAI、Anthropic 和 DeepSeek 等模型,並提供基於基準測試的分流策略與成本看板。目前僅限美國使用,2026 年底前免平臺費並贈送 26 美元額度。

Ramp 推出大模型路由服務 Router:支援多廠商 API,年底前免費
圖:techcrunch.com

管員工報銷起家的金融科技巨頭,突然跑來教你怎麼調大模型了。

估值 440 億美元的企業費用管理平臺 Ramp 在週三晚間上線了一項新服務,名字很直白,就叫 Router。說白了,它就是一個 AI 模型路由中繼站,讓企業通過一個統一的 API,在主流的大模型之間隨時切著玩。

把三年內功打包成一個 API

按照 Ramp 的說法,Router 並不是跟風現攢出來的東西。他們在過去三年裡內部一直在用這套路由系統,這次只是把它做成對外產品。

在支援的底層模型上,Ramp 挑了一圈主流選手,包括 OpenAI、Anthropic、DeepSeek、Moonshot(月之暗面)、Minimax、Nvidia、xAI 和 Z.ai 等。跟 OpenRouter 比起來,它目前的模型庫不算特別龐大,但主流的大廠和國內出海新星基本都圈進來了。

更有意思的是它的路由策略。開發者可以自己設定規則,比如優先走模型廠商的彈性折扣層(flex tiers),或者按照使用者指定的最多三個評測基準,讓系統自動挑選表現最好的模型來跑某類任務。

你也可以把規則設得很細,比如只把複雜的難題分流給價格昂貴的高效能模型,簡單的查詢交給便宜小模型。系統還自帶一個儀表盤,直觀展示 token 消耗、花費、延遲以及降級重試記錄。

服務目前僅面向美國使用者開放,在 2026 年底前免收平臺費,官方還送了 26 美元的啟動額度,不過模型本身的推理費用還是要使用者自己付。

幫你省錢,也順便把資料看光?

在費用管理上做慣了算盤的 Ramp,把主意打到了模型推理的過路費上。但這套服務裡有一項條款引起了關注:預設的資料保留政策。

Router 預設會把你的模型輸入、輸出和工具呼叫記錄保留一年。儘管 Ramp 保證會在用這些資料改進產品之前剔除個人身份資訊(PII),並且允許使用者手動關閉,但這種 opt-out 的做法,對於敏感業務來說還是得留個心眼。

Ramp 在 6 月剛以 440 億美元估值拿到 7.5 億美元融資。現在先拿出 26 美元額度和免費期把開發者吸引進來,看起來就是想復刻 OpenRouter 的路線,把開發者生態拉攏到自己手裡。

為什麼重要

我們認為,Ramp 這一步走得相當精準。做企業財務起家的公司,最清楚企業現在對 AI 開銷的焦慮:賬單不可控、呼叫容易斷、換模型程式碼改得頭疼。Router 直接切中了這個痛點,把模型降本和企業現有的預算監控綁在一起,順理成章。

對於開發者和企業團隊來說,現在確實值得薅一把羊毛。不僅有 26 美元啟動金,到 2026 年底還免平臺服務費。多基準自動路由的功能也省去了自己搭建 fallback 邏輯和基準測試的麻煩。但前提是,你得先去後臺把預設的資料儲存功能關掉,尤其是跑涉及業務核心資料的請求時。

從行業競爭來看,繼 Stripe 在 AI 推理計費上佈局之後,Ramp 緊跟著跟進,說明金融科技公司已經不滿足於只當最後的收單方,他們想直接守在 AI 流量的源頭。把模型路由作為獲客鉤子,一旦企業習慣了在這裡監控 token 開銷,順理成章就會被轉化成 Ramp 企業信用卡和費用管理系統的付費客戶。

不過隱患也擺在眼前。OpenRouter 靠著極豐富的長尾模型和中立性打下了開發者基本盤,而 Ramp 身為商業機構,不僅模型庫相對有限,一上來還要拿使用者資料做產品訓練,開發者會不會買賬,就看後續在隱私和模型豐富度上能退讓多少了。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選