2021-04-05 09:04:43
经常听到站长们问，百度蜘蛛是什么?最近百度蜘蛛来的太频繁服务器抓爆了，最近百度蜘蛛都不来了怎么办，还有很多站点想得到百度蜘蛛的IP段，想把IP加入白名单，但IP不固定，这些百度方面并未透露相关信息。
那怎么才能识别正确的百度蜘蛛呢?来来来，只需两步，教你正确识别百度蜘蛛
1、查看UA，如果UA都不对，可以直接判断非百度搜索的蜘蛛，目前对外公布过的UA是：
移动UA：
Mozilla/5.0(Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML，likeGecko)Version/5.1 Mobile Safari/10600.6.3 (compatible;Baiduspider/2.0;+http://blog.iis7.com//yunying/29357.html">搜索引擎爬虫蜘蛛的USERAGENT大全
百度蜘蛛抓取时返回304状态码的问题分析
搜索引擎蜘蛛的爬取策略简单分析
