利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫

最近,一位做文库的站长反馈,网站服务器经常无缘无故的宕机,CPU被占满。

主机邦查询后发现客户网站出现大量爬虫访问,最多的是gptbot、amazonbot、PanguBot、BLEXBot、DataForSeoBot、SemrushBot这几个访问最多,一天能请求进来几十万次,简直疯狂。

这些爬虫大多是一些AI爬虫或者数据分析网站的爬虫,对网站没有任何用处,因此,可以利用百度云防护进行拦截。

操作方法如下:

1.登陆Web防护规则-创建Web防护规则

利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫插图

2.开启自定义防护策略,并添加策略

利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫插图1

3.策略如

User-Agent 包含 gptbot 拦截并追加封禁 1440分钟

利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫插图2

把上面的爬虫名字全添加上去

利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫插图3

然后保存,并关联相关域名。

我们再来看效果:

利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫插图4
利用百度云防护拦截gptbot amazonbot PanguBot BLEXBot DataForSeoBot SemrushBot等爬虫插图5

成功拦截,客户服务器恢复稳定!

给TA打赏
共{{data.count}}人
人已打赏
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
在线客服
主机帮
我们将24小时内回复。
2025-01-14 21:32:19
您好,有任何疑问请与我们联系!
您的工单我们已经收到,我们将会尽快跟您联系!
[QQ客服]
176363189
当幸福来敲门
[小黄]
17307799197
[企业邮箱]
sudu@yunjiasu.cc
取消

选择聊天工具: