虽然京东云星盾默认不拦截搜索引擎蜘蛛,但是以防万一,我们还是在防火墙规则加下白,省得误杀。
方法很简单,进入京东云星盾,安全规则-防火墙规则,创建一条规则。
规则描述:搜索引擎蜘蛛放行
字段:选Uesr-Agent
运算符:等于
值:填写搜索引擎的UA,比如百度 PCMozilla/5.0(compatible;Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
或者:同样的字段填其它搜索引擎的UA ,直到把所有搜索引擎的UA加完。
操作:允许
如下图:
然后确认就可以了,这样的话,防火墙就不会拦截添加的搜索引擎蜘蛛了。
如不知道具体搜索引擎UA的,可以看下面:
1、百度PC端:
Mozilla/5.0(compatible;Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
2、百度移动端:
Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
3、360 搜索
Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36; 360Spider
4、必应搜索
Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)
5、头条PC搜索 so.toutiao.com
Mozilla/5.0 (compatible; Bytespider; https://zhanzhang.toutiao.com/) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.0.0 Safari/537.36
6、头条Android搜索
Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; https://zhanzhang.toutiao.com/)
7、头条iOS搜索
Mozilla/5.0 (iPhone; CPU iPhone OS 7_1_2 like Mac OS X) AppleWebKit/537.36 (KHTML, like Gecko) Version/7.0 Mobile Safari/537.36 (compatible; Bytespider; https://zhanzhang.toutiao.com/)
8、神马搜索 m.sm.cn
Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 YisouSpider/5.0 Safari/537.36
Mozilla/5.0 (iPhone; CPU iPhone OS 10_3 like Mac OS X) AppleWebKit/602.1.50 (KHTML, like Gecko) CriOS/56.0.2924.75 Mobile/14E5239e YisouSpider/5.0 Safari/602.1
9、谷歌搜索
Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
10、Yandex 俄罗斯的搜索引擎
Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)
11、搜狗搜索引擎
Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)