京东云星盾在开启遭遇攻击模式或者JS挑战的时候,是会把搜索引擎的蜘蛛拦截的,因为遭遇攻击模式或者JS挑战的时候,是需要人机验证的,而搜索引擎蜘蛛并不具有人机识别的能力。
解决办法是把各大搜索引擎的蜘蛛访问UA加入白名单,这样通过些UA访问过来的,就不会有拦截,缺点,如果有人假冒这些UA对网站进行访问,那么也是不会有任何拦截,所以各类同学根据自己的需求看着来弄。
操作方法:
1.进入点击进入安全规则-防火墙规则
2.创建防火墙规则
3.填写规则
规则名称:UA白名单
字段:User-Agent
运算符:等于
值:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
或Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B
操作:绕过
绕过的功能:全部
确认即可。
如下图:
其中的值自己根据想要加白的搜索引擎UA多少来填,如需要把360、谷歌等搜索引擎UA一起加白的,选或,再输入对应的UA,千万别选且。
以下是一些主要搜索引擎的抓取蜘蛛User-Agent的示例:
百度
- 百度PC蜘蛛:
Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
- 百度移动蜘蛛:
Mozilla/5.0 (Linux; u; Android 4.2.2; zh-cn;) AppleWebKit/534.46 (KHTML, like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
- 百度小程序蜘蛛:
Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; Smartapp; +http://www.baidu.com/search/spider.html)
谷歌
- Google PC蜘蛛:
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Googlebot/2.1; +http://www.google.com/bot.html) Chrome/W.X.Y.Z Safari/537.36
,其中W.X.Y.Z是Chrome浏览器版本号,会随Googlebot的更新而变化。 - Google移动蜘蛛:
Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
必应
- Bing PC蜘蛛:
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Chrome/
或Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) W.X.Y.Z Safari/537.36
- Bing移动蜘蛛:
Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 Edg/W.X.Y.Z (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)
搜狗
- 搜狗PC蜘蛛:
Sogou web spider/4.0 (+http://www.sogou.com/docs/help/webmasters.htm#07)
- 搜狗移动蜘蛛:
Sogou wap spider/4.0 (+http://www.sogou.com/docs/help/webmasters.htm#07)
360搜索
- 360搜索蜘蛛:
Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36; 360Spider
神马搜索
- 神马PC蜘蛛:
Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 YisouSpider/5.0 Safari/537.36
- 神马移动蜘蛛:
Mozilla/5.0 (iPhone; CPU iPhone OS 10_3 like Mac OS X) AppleWebKit/602.1.50 (KHTML, like Gecko) CriOS/56.0.2924.75 Mobile/14E5239e YisouSpider/5.0 Safari/602.1
Yandex
- Yandex蜘蛛:
Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.268