Perl web scraper,从DIV中提取只有“样式”标签的内容?

时间:2010-07-15 03:41:20

标签: perl parsing web-scraping

我一直坚持这个并且已经整天......我仍然很新解析perl中的解析/抓取但是我认为我已经把它解决了这个...我一直尝试使用不同的perl模块(tokeparser) ,tokeparser:简单,web解析器和其他一些)...我有以下字符串(实际上实际上是一个完整的HTML页面,但这只是显示相关部分..我试图提取“text1”和“ text1_a“......等等(”text1“等只是作为一个例子放在那里)...所以基本上我认为我需要先从每个中提取这个:

"<span style="float: left;">test1</span>test1_a"

然后解析这个以获得2个值..我不知道为什么这给了我这么多麻烦,因为我认为我可以在tokeparser中做到:简单但我似乎无法返回里面的值DIV,我想知道它是否因为它包含另一组标签(标签)

string(代表html网页)

<div id="dataID" style="font-size: 8.5pt; width: 250px; color: rgb(0, 51, 102); margin-right: 10px; float: right;">
<div style="width: 250px; text-align: right;"><span style="float: left;">test1</span>test1_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test2</span>test2_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test3</span>test3_a</div>

我在perl web解析器模块中的尝试:

my $uri  = URI->new($theurl);

my $proxyscraper = scraper {
process 'div[style=~"width: 250px; text-align: right;"]',
'proxiesextracted[]' => scraper {
process '.style',  style => 'TEXT';
};
result 'proxiesextracted';

我只是盲目地试图理解网络:解析器模块,因为它基本上没有文档,所以我只是将它们与模块中包含的示例和我在互联网上找到的示例拼凑在一起。任何建议都非常感谢。

2 个答案:

答案 0 :(得分:5)

如果你想要一个DOM解析器(更容易使用树浏览,稍慢)。试试HTML::TreeBuilder

HTML::Element手册页(包含模块)

Note also that look_down considers "" (empty-string) and undef to be
     

属性值中的不同内容。   所以这个:

  $h->look_down("alt", "")

这引导我们回答:

use HTML::TreeBuilder;

# check html::treebuilder pod, there are a few ways to construct (file, fh, html string)
my $tb = HTML::TreeBuilder->new_from_(constructor)

$tb->look_down( _tag => 'div', style => '' )->as_text;

答案 1 :(得分:1)

使用Web::Scraper,尝试:

#!/usr/bin/perl

use strict;
use warnings;
use Data::Dumper::Simple;
use Web::Scraper;

$Data::Dumper::Indent = 1;

my $html = '<div id="dataID" style="font-size: 8.5pt; width: 250px; color: rgb(0, 51, 102); margin-right$
<div style="width: 250px; text-align: right;"><span style="float: left;">test1</span>test1_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test2</span>test2_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test3</span>test3_a</div>';


my $proxyscraper = scraper {
    process '//div[@id="dataID"]/div', 'proxiesextracted[]' => scraper {
       process '//span', 'data1' => 'TEXT';
       process '//text()', 'data2' => 'TEXT';
     }
};

my $results = $proxyscraper->scrape( $html );

print Dumper($results);

它给出了:

$results = {
  'proxiesextracted' => [
    {
      'data2' => 'test1_a',
      'data1' => 'test1'
    },
    {
      'data2' => 'test2_a',
      'data1' => 'test2'
    },
    {
      'data2' => 'test3_a',
      'data1' => 'test3'
    }
  ]
};

希望这有帮助