Cloudflare 上线整站爬取 API:一次调用抓取全站,直出 Markdown 和 JSON
Cloudflare 为 Browser Rendering 推出 /crawl 端点公开测试,开发者仅需单次 API 调用即可自动抓取整站内容,并直接返回 HTML、Markdown 或结构化 JSON。该接口默认遵守 robots.txt,专为搭建 RAG 知识库和模型训练提供合规数据抓取通道。
Cloudflare 为 Browser Rendering 推出 /crawl 端点公开测试,开发者仅需单次 API 调用即可自动抓取整站内容,并直接返回 HTML、Markdown 或结构化 JSON。该接口默认遵守 robots.txt,专为搭建 RAG 知识库和模型训练提供合规数据抓取通道。