我应该阻止这个 Ip 范围吗?

Should I block this Ip range?

我的网站上有一个爬虫在其用户代理中未被识别为机器人。

其中一个 IP 地址是:
131.161.8.197

所有机器人都属于 131.161 的 IP 范围。

显然它是一个基于 ipwhois 的 "brasil baidu"。

我应该继续阻止整个 ips 范围吗?

所以它起源于巴西,真正的问题是..您需要定位到巴西地区吗?

阻止爬虫意味着你要处理的流量更少,所以我个人会同意阻止它。

您可以使用 robots.txt 或通过服务器端进行。显然你可以使用:

Order Deny,Allow
Deny from 131.161.8.197

或:

User-agent: Baiduspider
User-agent: Baiduspider-video
User-agent: Baiduspider-image
Disallow: /