使用带有 splash return 空值的 scrapy shell

Using scrapy shell with splash return empty value

我正在抓取此站点:http://www.germandeli.com/Meats/Sausages,其中包含一些动态内容。

我正在使用 scrapy shell 和 splash 来渲染 javascript 但它 returns 是空值 []。我的系统是 Ubuntu 14.04 LTS。

这里是我使用的代码:

$ scrapy shell 'http://localhost:8050/render.html?url=http://www.germandeli.com/Meats/Sausages'
>>> response.xpath('*//h2[@class="item-cell-name"]/a/@href').extract()

如有任何提示,我们将不胜感激!

我明白了。我忘了在 link!

的末尾添加 '&timeout=10&wait=5'
scrapy shell 'http://localhost:8050/render.html?url=http://www.germandeli.com/Meats/Sausages&timeout=10&wait=5'