如何获取爬虫或爬虫的动态值?
How to scraper or crawler dynamic value?
我有一些问题,我尝试抓取一些数据,例如图像下方的数据。
本网站不断变化。它似乎在不断地获取动态数据。
当然,你可以在一定的时间内完成(比如5秒取一次数据)
我觉得浪费了很多资源。
我们用chrome的开发者工具看网络,但没有变化
不过,数据仍在更新中。
这种情况下,有什么办法可以每隔几秒查看一次数据吗?
我不能像观察者模式一样继续观察那部分吗?
本网站使用 websockets...
如果您在 Chrome 中的网络选项卡下过滤 WS,则可以检查 websocket 流量。然后 select 您要检查的套接字连接和检查框架。
综上所述,PhantomJS 对此有古怪的支持,所以我猜你最好打赌它只是在某个时间间隔内抓取数据...
我有一些问题,我尝试抓取一些数据,例如图像下方的数据。
本网站不断变化。它似乎在不断地获取动态数据。
当然,你可以在一定的时间内完成(比如5秒取一次数据)
我觉得浪费了很多资源。
我们用chrome的开发者工具看网络,但没有变化
不过,数据仍在更新中。
这种情况下,有什么办法可以每隔几秒查看一次数据吗?
我不能像观察者模式一样继续观察那部分吗?
本网站使用 websockets...
如果您在 Chrome 中的网络选项卡下过滤 WS,则可以检查 websocket 流量。然后 select 您要检查的套接字连接和检查框架。
综上所述,PhantomJS 对此有古怪的支持,所以我猜你最好打赌它只是在某个时间间隔内抓取数据...