如何在 Perl 中从 HTML 中提取 URL 标签和 link 文本？

Question

我有一个包含以下内容的页面：

<a href="http://www.trial.com" title="yellow">Trial</a>
<a href="http://www.trial1.com" title="red">Trial2</a>

如何获取锚文本、URL 和标题？

我想要这样的输出：

Trial, http://www.trial.com, yellow
Trial2, http://www.trial1.com, red

我试过用WWW::Mechanize as explained also here，但我不知道如何用这种方式得到标题。你有什么想法吗？

Answer 1

使用您问题中提供的文档。我相信我创造了可以解决您的问题的东西。显然使用 https://www.perlmonks.org 有一些异常值，因为某些 URL 不是完整的 URL，但如果它不是您想要的，则通过一些简单的检查和跳过，我想您会得到您想要的。

示例输出:

_____________________________________________________________________________________________________________________________
| Text                                            | URL                | Attributes
_____________________________________________________________________________________________________________________________
| Testing a metacpan dist with XS components      | ?node_id=1216149   | [name]post-head-id1216149[id]post-head-id1216149,  |
| Controlling the count in array                  | ?node_id=1216134   | [name]post-head-id1216134[id]post-head-id1216134,  |

您可能被 hashref 难住了。您只需要创建一个 for 循环来遍历这些以获取属性标签及其值。

代码：

#!/usr/bin/perl
# your code goes here
use strict;
use warnings;
use Data::Dumper;
use WWW::Mechanize ();
$ENV{'PERL_LWP_SSL_VERIFY_HOSTNAME'} = 0;

my @urls = (
    q{https://www.perlmonks.org/}
);

my $mech = WWW::Mechanize->new();
$mech->get(@urls);

my @links = $mech->links();
print qq{______________________________________________________________________________________________________________\n};
printf(qq{| %-65s | %-75s | %-25s\n},q{Text},q{URL},q{Attributes});
print qq{______________________________________________________________________________________________________________\n};
foreach my $link (@links) {
    if ($link->text() && $link->url()) {
        my $a;
        foreach my $attr (keys %{$link->attrs()}) {
            next if $attr =~ m/href/i;

            #$link->attr()->{$attr} is the value of the key in this hashref. 
            $a .= qq{[$attr]} . $link->attrs()->{$attr};
        }
        my $info;
        if ($a) {
            $info = sprintf(qq{| %-65s | %-75s | %-25s, },$link->text(),$link->url(),$a);
        } else {
            $info = sprintf(qq{| %-65s | %-75s |},$link->text(),$link->url());
        }
        print $info . qq{ |\n};
    }
}

Answer 2

基于您的问题的简单版本

一个看起来像你的页面（所以没有晦涩难懂的 html 会搞砸）
所需的输出

这可能是您要找的：

use strict;
use warnings;

use WWW::Mechanize;

my $mech = WWW::Mechanize->new;
$mech->get('file:page.html');

foreach my $link ($mech->links) {
    my $text  = $link->text;
    my $url   = $link->url;
    my $title = $link->attrs->{title};

    print "$text, $url, $title\n"
}

编码愉快，TIMTOWTDI

如何在 Perl 中从 HTML 中提取 URL 标签和 link 文本？

How can I extract URL tags and link text from HTML in Perl?

html

url

perl

parsing

www-mechanize