CloudFlare 提供 AI Crawl Control 的配置選項。

AI Crawl Control

針對越來越多的 AI Crawl,CloudFlare 提供了 AI Crawl Control 控制選項。

 

AI Bot 爬蟲新勢力_搜索引擎

對使用 CloudFlare 的用户,可以通過控制枱上的配置來查看自己的網址被 AI 掃描了多少次。

針對模型的訓練,AI 也需要從互聯網中不斷的獲取內容才能對自己進行訓練。

針對上面的內容和數據來看,AI 的爬取量比較大,可能會超過傳統的搜索引擎。