跳到正文
IFAI

行业动态

Cloudflare 收购 Replicate:把 5 万个开源 AI 模型直接搬进边缘网络

首次发布 传播指数 43

Cloudflare 宣布收购 AI 模型部署平台 Replicate,未披露具体金额。Replicate 拥有超 5 万个容器化模型,Cloudflare 计划将其迁移至自身全球边缘基础设施,强化 Workers AI,让开发者免管服务器就能直接运行自定义与微调大模型。

Cloudflare 收购 Replicate:把 5 万个开源 AI 模型直接搬进边缘网络
图:siliconangle.com

搭过开源大模型的人大概都体会过这种痛苦:配 Python 环境、装英伟达 CuDNN 驱动、处理一堆版本冲突,折腾大半天,模型还没跑起来第一句回答。

Cloudflare 刚刚买下了一家专门帮开发者省去这种折磨的创业公司。这家做网络基础设施的巨头宣布收购 AI 模型部署平台 Replicate,不过双方并没有公布具体的交易金额。在此之前,Replicate 曾从 Y Combinator 和红杉资本等投资方手里拿过超过 2300 万美元的融资。

把 5 万个模型打包进容器

Replicate 之所以能在开发者圈子里立足,核心就是帮人省时间。一个大语言模型想要跑起来,背后依赖着极其繁杂的底层组件。

为了不让大家每次都在服务器上手动搭环境,软件工程师通常会把模型和所有依赖打包进一个容器。Replicate 早在 2019 年就开源了一个叫 Cog 的自动化工具,把最繁琐的打包流程自动化了。

靠着这套工具,Replicate 攒下了一个包含超过 50000 个现成容器化模型的目录。开发者想用什么模型,直接在他们的托管云上调用就行,按实际用量付钱,完全不用自己买服务器或操心基础设施。

边缘网络与单一控制台

收购完成后,Cloudflare 打算把整个 Replicate 平台直接搬到自己的全球网络上。对开发者来说,最直接的改变可能是延迟变低了,毕竟 Cloudflare 的数据中心遍布全球,离用户更近。

同时,Cloudflare 自家的 Workers AI 也会借此扩容。以前 Workers AI 上的模型库相对有限,接下来除了接入 Replicate 的海量模型库,还会允许开发者上传自己的微调模型和自定义大模型。

另一个整合重点是 Cloudflare 的 AI Gateway。Cloudflare 副总裁 Rita Kozlov 和 Replicate 首席执行官 Ben Firshman 在联合博客里提到,他们要把推理平台和网关深度绑定。未来开发者可以通过一个控制台,搞定提示词管理、缓存常见请求、做 A/B 测试,甚至监控跨平台调用的成本。

为什么重要

对开发者和独立创业团队来说,这笔收购大概率是个好消息。如果你的业务既用 Cloudflare 处理网站流量,又需要跑一些开源模型,以后不用再去不同服务商之间折腾鉴权、计费和网络打通了。现成的模型随调随走,还能直接享受边缘节点的缓存和低延迟加速。

对行业来说,云计算巨头们圈地 AI 的思路正在发生变化。以前大家拼的是谁手里算力集群更大、谁的模型参数更多;现在竞争正在往开发者体验和应用落地倾斜。Cloudflare 显然不想只当个卖带宽和 CDN 的管道工,它要把推理和部署环节牢牢卡在自己的生态里,直接叫板传统云厂商的 AI 部署服务。

我们认为 Cloudflare 这一步走得相当聪明。买下 Replicate 既补齐了海量开源模型的生态,又拿到了深受开发者喜爱的部署工具链。不过隐患也在于整合体验,Replicate 过去最吸引人的是极简的极客手感,一旦并入 Cloudflare 庞大且复杂的企业级控制台后,这种轻快的使用体验能不能完整保留,依然需要打个问号。

来源 (1)

  1. [1]
    siliconangle.com(在新标签页打开)原文siliconangle.com

每日 AI 内容精选