C# 从 url 获取 html。错误 (429) 未知

Question

我正在使用以下代码从 url 中检索 html 代码。对于 url 作为：

它工作正常

https://trends.google.com/trends/?geo=US 但是，不适用于以下一个，返回错误 as

"The remote server returned an error: (429) unknown.'"

可能是什么错误或如何获取有关错误的更多信息？

private void getHtmlFromUrl() {

    string urlAddress = "https://trends.google.es/trends/explore?q=test&geo=US";

    HttpWebRequest request = (HttpWebRequest)WebRequest.Create(urlAddress);
    HttpWebResponse response = (HttpWebResponse)request.GetResponse();

    if (response.StatusCode == HttpStatusCode.OK)
    {
        Stream receiveStream = response.GetResponseStream();
        StreamReader readStream = null;

        if (String.IsNullOrWhiteSpace(response.CharacterSet))
            readStream = new StreamReader(receiveStream);
        else
            readStream = new StreamReader(receiveStream, Encoding.GetEncoding(response.CharacterSet));

        string htmlData = readStream.ReadToEnd();

        response.Close();
        readStream.Close();
    }

}

Answer 1

如果没有 API，将无法再获取 google 服务的源代码，因为特别是当您仅访问 trends.google 时，趋势服务会进行多次调用.es/trends/explore?q=test 因此 错误 429.

不要浪费时间研究代理，浏览器仿真或机器人 none 会起作用。最好的方法是使用 Google API for c# .

示例项目：

https://github.com/thegreymatter/GoogleTrends（已弃用）

https://developers.google.com/api-client-library/dotnet/guide/aaa_oauth（已弃用）

新解决方案！

（我们安装 python 然后将我们的 py 脚本转换为 exe 文件以从 .net 代码使用。好消息是此方法不需要 api）

1- 安装 Python：https://www.python.org/downloads/windows/

2- 安装 Pytrends 使用：

pip install pytrends

3- 创建一个 test.py 并添加对参数的支持：

from pytrends.request import TrendReq
import sys

# Only need to run this once, the rest of requests will use the same session.
pytrend = TrendReq()
# Set your region
pytrend.geo = 'ES'
pytrend.build_payload(kw_list=[sys.argv[1]]) # Also supports an array of keywords e.g. kw_list=['test', 'music']
related_queries_dict = pytrend.related_queries()
print(related_queries_dict)
#Check the documentation for other available queries https://github.com/GeneralMills/pytrends#api-methods

现在，如果您 cmd.exe（不使用 PowerShell 命令将无法工作）在 test.py 的相同位置使用以下命令：

test.py test

截图结果

4- 现在让我们将 test.py 转换为 .exe（windows 控制台文件）

(a) 安装 Pyinstaller：

pip install pyinstaller

(b) 将 test.py 编译为 test.exe

pyinstaller test.py -F

5- 您的“test.exe”在 \dist\ 目录中。让我们看看它是否有效：

是的。（请记住，test.exe 的文件大小为 80 MB，因为它使用了许多库。）

现在您要做的就是Process.Start“test.exe”带有参数“test”的文件名，以从您的 csharp 应用程序读取输出。

You can use IronPython instead to make python commands through your csharp code

C# 从 url 获取 html。错误 (429) 未知

C# get html from url. Error (429) unknown

c#

httpwebrequest

httpwebresponse