可以在 CURL 中获取网站,但不能在 Nodejs 请求中获取网站
Can fetch website in CURL but not in Nodejs Request
我正在尝试从 IMDB 中获取一个页面,但由于某些奇怪的原因,当我使用 request-promise
时,出现错误 400
但是如果我使用 CURL,同样的查询工作正常:
卷曲“https://www.imdb.com/title/tt6306064/mediaviewer/rm3146075904”
我的nodejs代码:
async function getMoviePosterImage(mediaViewerUrl) {
const options = {
uri: mediaViewerUrl
};
try {
const mediaViewerHtml = await request.get(options);
return mediaViewerHtml;
} catch (error) {
console.error(error.statusCode);
}
}
await getMoviePosterImage(
"https://www.imdb.com/title/tt6306064/mediaviewer/rm3146075904"
);
到目前为止我尝试过的事情:
- 设置用户代理
- 设置保活
- 启用 cookie jar
在我这边,我只是在本地尝试,同样的错误发生在我身上。不是一个明确的答案,但我感觉 IMDB 可以防止网络抓取工具。
我正在尝试从 IMDB 中获取一个页面,但由于某些奇怪的原因,当我使用 request-promise
但是如果我使用 CURL,同样的查询工作正常:
卷曲“https://www.imdb.com/title/tt6306064/mediaviewer/rm3146075904”
我的nodejs代码:
async function getMoviePosterImage(mediaViewerUrl) {
const options = {
uri: mediaViewerUrl
};
try {
const mediaViewerHtml = await request.get(options);
return mediaViewerHtml;
} catch (error) {
console.error(error.statusCode);
}
}
await getMoviePosterImage(
"https://www.imdb.com/title/tt6306064/mediaviewer/rm3146075904"
);
到目前为止我尝试过的事情:
- 设置用户代理
- 设置保活
- 启用 cookie jar
在我这边,我只是在本地尝试,同样的错误发生在我身上。不是一个明确的答案,但我感觉 IMDB 可以防止网络抓取工具。