Linkedin 抓取为什么付费工具没有被屏蔽

Linkedin scraping why paid tools did not get block

我正在尝试抓取 linkedin 个人资料和帖子。我尝试使用 selenium 和 webdriver。它工作完美,但经过一些尝试后,linkedin 会阻止帐户或 ip 地址。 然后我尝试了像 phantombuster、scraper api 这样的工具,它们可以在不被阻止的情况下抓取 linkedin 数据。那么这些付费工具是如何设法不被阻止的。有什么想法吗?

商业抓取工具有很多方法可以抓取网站而不会被屏蔽。

几个方法:

  • 更改您的用户代理
  • 使用旋转代理
  • 使用住宅代理
  • 验证码农场
  • 绕过 JS 挑战
  • 限制请求
  • 尽可能使用API

P.S。我不建议打破 ToS 和绕过 LinkedIn 的封锁。