Cloudflare 推出 AI Audit:一鍵封殺 AI 爬蟲,未來還要幫站長收費
Cloudflare 推出 AI Audit 工具,幫網站所有者分析 AI 爬蟲的抓取頻次與意圖,支援一鍵攔截所有 AI 抓取。最值得關注的是,平臺後續還將上線定價機制,讓站長能向抓取內容的 AI 公司收費。現有使用者可通過控制台使用。

各大 AI 模型天天都在全網抓資料,不管是大媒體還是你的個人部落格,寫出來的字基本都被吸進去了,但大部分創作者連一分錢都沒收到。
網路基礎設施巨頭 Cloudflare 正式推出了一個叫 AI Audit 的新工具套件,擺明了要幫站長們把內容控制權搶回來。
誰在爬、爬了啥,後臺一清二楚
很多人可能不知道,各種 AI 爬蟲每天都在後臺默默掃描網頁成千上萬次。大媒體還能坐下來和 OpenAI 籤幾千萬美元的授權協議,但小站長連誰來過都不知道。
Cloudflare 這次把 AI Audit 直接做進了現有控制面板裡。站長們點開就能看到非常詳細的資料分析,包括 AI 爬蟲什麼時候來訪、訪問頻率多高、盯著網站的哪個版塊抓,以及它們抓取到底是為了文本生成還是純粹的資料探勘。
更細緻的是,這個工具還能區分不同型別的機器人。比如有的爬蟲抓了內容之後生成回答時還會帶上來源連結,而有的爬蟲抓完就跑、完全不給引用,站長在後臺都能看得明明白白。
如果你暫時不想讓任何 AI 碰你的網站,操作也極度乾脆。後臺提供了一個一鍵開關,點一下就能直接攔截所有已知的 AI 爬蟲,給你留出時間慢慢看資料、想對策。
不止是封禁,還想幫小網站明碼標價
對於那些想參與授權但苦於沒有談判籌碼的小站長,Cloudflare 還在準備更狠的招數。他們正在開發一套定價與交易機制,允許創作者給自己的內容標一個合理的公道價格,無論是用於模型訓練還是 RAG 檢索增強生成。
很多小部落格和垂直網站的內容極有價值,但不可能每家都去找模型廠商逐一談判,AI 公司也沒有精力應付成千上萬的中小站點。Cloudflare 打算在中間搭起交易流,讓內容付費變得像買服務一樣自動化。
官方還提供了標準的版權使用條款模板,方便站長直接貼在網站上維護合法權益。Cloudflare 執行長 Matthew Prince 表示,如果創作者無法掌控自己的內容,未來的網路資訊質量就會嚴重惡化,或者全部被鎖在付費牆後面。
目前 AI Audit 的分析和一鍵攔截功能已經向 Cloudflare 現有客戶開放,付費交易功能的測試資格則開放了候補名單,更多技術細節會在 9 月 26 日上午的 Builder Day 直播中公佈。
為什麼重要
對於廣大的個人站長、獨立開發者和中小內容創作者來說,這個功能極具實用價值。現在最明智的做法就是直接去後臺看一眼,弄清楚到底有哪些模型在消耗你的伺服器流量,哪怕只是點一下一鍵攔截,也是拿回議價權的第一步。
對整個 AI 行業來說,抓取免費資料的蜜月期正在加速終結。以往大模型公司習慣了把公開網際網路當成免費自助餐,但隨著 Cloudflare 這種覆蓋全球大量網路流量的基礎設施親自下場築牆,AI 公司未來獲取新鮮訓練資料的成本會被迫拉高。
我們認為,Cloudflare 這步棋下得非常聰明。它沒有單純站在對抗 AI 的立場搞破壞,而是試圖把自己做成中小創作者與 AI 巨頭之間的資料交易所,從中掌握新一代網際網路版權流轉的規則制定權。
不過這裡的隱患也顯而易見。爬蟲偽裝成普通瀏覽器繞過檢測早就是家常便飯,光靠 Cloudflare 單方面攔截很難百分之百防住惡意抓取;再加上小站點的單個內容定價極其複雜,這套商業交易閉環最終能不能真正跑通、讓普通作者分到真金白銀,看起來還需要打個問號。
來源 (2)
- zdnet.com(在新分頁開啟)原文zdnet.com
- cloudflare.com(在新分頁開啟)報導cloudflare.com
話題追蹤AI 爬蟲與內容所有者的衝突
- Cloudflare 推出 AI Audit:一鍵封殺 AI 爬蟲,未來還要幫站長收費本則
- Anthropic 爬蟲狂掃 iFixit 近百萬次:無視禁止條款引眾怒
- Cloudflare 上線一鍵攔截 AI 爬蟲:全員免費,專治偽裝抓取