Patreon在robots.txt被無視後開始主動屏蔽AI爬蟲
patreon從robots.txt請求轉向通過cloudflare主動屏蔽,此前觀察到每週數千次抓取嘗試被無視,這標誌著轉向硬性執行以保護創作者收益。
Patreon 在偵測到每週數千次的刮取嘗試後,放棄了被動的「robots.txt」指令,轉而採用 Cloudflare 的 AI 爬蟲控制技術進行主動阻擋,這些刮取嘗試忽略了 Patreon 的請求。雖然該平台嚴格禁止 AI 訓練機器人,但它明確允許有助於用戶發現內容的索引機器人,區分驅動流量搜尋和數據採集訓練之間的差異。這一舉動反映了 Cloudflare 等平台引入「按爬蟲次數付費」等工具以貨幣化或限制存取專有數據的更廣泛行業趨勢。隨著 AI 代理的激增,Patreon 的策略旨在授予創作者對其作品的槓桿力,而不犧牲受眾增長。