如何获取爬虫或爬虫的动态值?

How to scraper or crawler dynamic value?

我有一些问题,我尝试抓取一些数据,例如图像下方的数据。

本网站不断变化。它似乎在不断地获取动态数据。

当然,你可以在一定的时间内完成(比如5秒取一次数据)

我觉得浪费了很多资源。

我们用chrome的开发者工具看网络,但没有变化

不过,数据仍在更新中。

这种情况下,有什么办法可以每隔几秒查看一次数据吗?

我不能像观察者模式一样继续观察那部分吗?

本网站使用 websockets...

如果您在 Chrome 中的网络选项卡下过滤 WS,则可以检查 websocket 流量。然后 select 您要检查的套接字连接和检查框架。

综上所述,PhantomJS 对此有古怪的支持,所以我猜你最好打赌它只是在某个时间间隔内抓取数据...