从 Tripadvisor 网页上抓取电子邮件地址

Question

我正在尝试使用 Python-BS4-requests 从以下网页中抓取电子邮件地址，但在源代码中无法访问该电子邮件地址。

https://www.tripadvisor.in/Attraction_Review-g189400-d2020955-Reviews-Chat_Tours-Athens_Attica.html

电子邮件地址在我的邮件应用程序中打开，但我无法在页面源中找到它的 link。我知道这可以通过观察网络选项卡并发出与网站发出的相同 post 请求来完成，但无法使其正常工作。

提前致谢！！

Answer 1

电子邮件在页面上的 Json 变量中进行了 Base64 编码。

您可以使用此示例获取在页面上找到的所有电子邮件：

import re
import json
import base64
import requests
from bs4 import BeautifulSoup


url = 'https://www.tripadvisor.in/Attraction_Review-g189400-d2020955-Reviews-Chat_Tours-Athens_Attica.html'

html_data = requests.get(url).text
data = re.search(r'window\.__WEB_CONTEXT__=(\{.*?\});', html_data).group(1)
data = json.loads(data.replace('pageManifest', '"pageManifest"'))

def get_emails(val):
    if isinstance(val, dict):
        for k, v in val.items():
            if k == 'email':
                if v:
                    yield v
            else:
                yield from get_emails(v)
    elif isinstance(val, list):
        for v in val:
            yield from get_emails(v)

for email in get_emails(data):
    email = base64.b64decode(email).decode('utf-8')
    email = re.search(r'mailto:(.*)_', email).group(1)

    print(email)

打印：

chat@chatours.gr

从 Tripadvisor 网页上抓取电子邮件地址

Scrape Email address from a Tripadvisor webpage

python

beautifulsoup

python-requests

tripadvisor