无法通过请求模块抓取数据 - 禁止

Question

我有一个奇怪的问题，我正在尝试使用请求模块废弃某些页面，但我这样做时收到 403 访问被拒绝。但是我完全能够使用节点的 curl 模块来完成它。但是互联网上的人建议它比请求模块更需要性能，因为我需要废弃很多类似的页面。为什么我在使用请求模块时得到 403？

var options = {
  url: 'http://m.snapdeal.com/product/ostriva-antiglare-screen-protector-for/226500183',
  headers: {
    'User-Agent': 'Mozilla/5.0'
  }
}
router.get('/m', function(req, res) {
    request(options,function(err,resp,data){
        if(err){
          console.log(err);
          res.end();
          return;
        }
        console.log(resp.statusCode);
        res.send(data);
    });
});

Answer 1

服务器也在寻找 Accept header。因此，请尝试将 'Accept': 'text/html;q=0.9,*/*;q=0.8', 之类的内容添加到您的 headers object.

无法通过请求模块抓取数据 - 禁止

Unable to scrape data via request module - Fobidden

javascript

node.js

node-request