C# 从 url 获取 html。错误 (429) 未知

C# get html from url. Error (429) unknown

我正在使用以下代码从 url 中检索 html 代码。对于 url 作为:

它工作正常

"The remote server returned an error: (429) unknown.'"

可能是什么错误或如何获取有关错误的更多信息?

private void getHtmlFromUrl() {

    string urlAddress = "https://trends.google.es/trends/explore?q=test&geo=US";

    HttpWebRequest request = (HttpWebRequest)WebRequest.Create(urlAddress);
    HttpWebResponse response = (HttpWebResponse)request.GetResponse();

    if (response.StatusCode == HttpStatusCode.OK)
    {
        Stream receiveStream = response.GetResponseStream();
        StreamReader readStream = null;

        if (String.IsNullOrWhiteSpace(response.CharacterSet))
            readStream = new StreamReader(receiveStream);
        else
            readStream = new StreamReader(receiveStream, Encoding.GetEncoding(response.CharacterSet));

        string htmlData = readStream.ReadToEnd();

        response.Close();
        readStream.Close();
    }

}

如果没有 API,将无法再获取 google 服务的源代码,因为特别是当您仅访问 trends.google 时,趋势服务会进行多次调用.es/trends/explore?q=test 因此 错误 429.

不要浪费时间研究代理,浏览器仿真或机器人 none 会起作用。最好的方法是使用 Google API for c# .

示例项目:

https://github.com/thegreymatter/GoogleTrends(已弃用)

https://developers.google.com/api-client-library/dotnet/guide/aaa_oauth(已弃用)

新解决方案!

(我们安装 python 然后将我们的 py 脚本转换为 exe 文件以从 .net 代码使用。好消息是此方法不需要 api)

1- 安装 Python:https://www.python.org/downloads/windows/

2- 安装 Pytrends 使用:

pip install pytrends

3- 创建一个 test.py 并添加对参数的支持:

from pytrends.request import TrendReq
import sys

# Only need to run this once, the rest of requests will use the same session.
pytrend = TrendReq()
# Set your region
pytrend.geo = 'ES'
pytrend.build_payload(kw_list=[sys.argv[1]]) # Also supports an array of keywords e.g. kw_list=['test', 'music']
related_queries_dict = pytrend.related_queries()
print(related_queries_dict)
#Check the documentation for other available queries https://github.com/GeneralMills/pytrends#api-methods

现在,如果您 cmd.exe(不使用 PowerShell 命令将无法工作)在 test.py 的相同位置使用以下命令:

test.py test

截图结果

4- 现在让我们将 test.py 转换为 .exe(windows 控制台文件)

(a) 安装 Pyinstaller:

pip install pyinstaller

(b) 将 test.py 编译为 test.exe

pyinstaller test.py -F

5- 您的“test.exe”在 \dist\ 目录中。让我们看看它是否有效:

是的。 (请记住,test.exe 的文件大小为 80 MB,因为它使用了许多库。)

现在您要做的就是Process.Start“test.exe”带有参数“test”的文件名,以从您的 csharp 应用程序读取输出。

You can use IronPython instead to make python commands through your csharp code