在Perl中解析Apache日志

时间:2013-05-10 05:28:28

标签: string perl apache parsing logging

更新日期5-10-2013

好的,现在我可以毫无问题地过滤掉IP地址。现在接下来我要做的下三件事我认为可以用sort($keys)轻松完成,但我错了,然后尝试下面稍微复杂的方法似乎也不是解决方案。我需要做的下一件事是收集日期和浏览器版本。我将提供我的日志文件格式和我当前代码的示例。

APACHE LOG

24.235.131.196 - - [10/Mar/2004:00:57:48 -0500] "GET http://www.google.com/iframe.php HTTP/1.0" 500 414 "http://www.google.com/iframe.php" "Mozilla/4.0 (compatible; MSIE 6.0; Windows 98)"

我的代码

#!usr/bin/perl -w
use strict;

my %seen = ();
open(FILE, "< access_log") or die "unable to open file  $!";    

while( my $line = <FILE>) {
    chomp $line;

    # regex for ip address.
    if( $line =~ /(\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3})/ ) {  
        $seen{$1}++;
    }

    #regex for date an example is [09\Mar\2009:05:30:23]
    if( $line =~ /\[[\d]{2}\\.*[\d]{4}\:[\d]{2}\:[\d]{2}\]*/) {
        print "\n\n $line matched : $_\n";
    }

}
close FILE;
my $i = 0;

# program bugs out if I uncomment the below line, 
# but to my understanding this is essentially what I'm trying to do.
# for my $key ( keys %seen ) (keys %date) {
for my $key ( keys %seen ) {
    my ($ip) = sort {$a cmp $b}($key); 
    # also I'd like to be able to sort the IP addresses and if 
    # I do it the proper numeric way it generates errors saying contents are not numeric. 
    print @$ip->[$i] . "\n";
    # print "The IPv4 address is : $key and has accessed the server $seen{$key} times. \n";
    $i++;
}

1 个答案:

答案 0 :(得分:5)

你非常接近。是的,我会使用hash。它通常被称为“看见哈希”。

#!usr/bin/perl 

use warnings;
use strict;

my $log = "web.log";
my %seen = ();

open (my $fh, "<", $log) or die "unable to open $log: $!"; 

while( my $line = <$fh> ) {
    chomp $line;

    if( $line =~ /(\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3})/ ){
        $seen{$1}++;
    }
}
close $fh;

for my $key ( keys %seen ) {
    print "$key: $seen{$key}\n";
}

这是一个包含一些输出的示例日志文件:

$ cat web.log 
[Mon Sep 21 02:35:24 1999] some msg blah blah
[Mon Sep 21 02:35:24 1999] 192.1.1.1
[Mon Sep 21 02:35:24 1999] 1.1.1.1
[Mon Sep 21 02:35:24 1999] 10.1.1.9
[Mon Sep 21 02:35:24 1999] 192.1.1.1
[Mon Sep 21 02:35:24 1999] 10.1.1.5
[Mon Sep 21 02:35:24 1999] 10.1.1.9
[Mon Sep 21 02:35:24 1999] 192.1.1.1
$ test.pl
1.1.1.1: 1
192.1.1.1: 3
10.1.1.9: 2
10.1.1.5: 1

我要小心的一些事情:

my @array = <FH>;这会将整个文件拉入内存,这不是一个好主意。特别是在这种情况下,对于日志文件,它们可以变得非常大。如果不是rotated,那就更好了。 forforeach会遇到同样的问题。 while是从文件中读取的最佳做法。

你应该习惯使用3-arg lexically scoped open,如上例所示。

您的die声明不应该那么“精确”。请参阅我的die消息。由于原因可能是权限,不存在,锁定等...

<强>更新

这适用于您的日期。

my $line = '[09\Mar\2009:05:30:23]: plus some message';

#example is [09\Mar\2009:05:30:23]
if( $line =~ /(\[[\d]{2}\\.*\\[\d]{4}:[\d]{2}:[\d]{2}:[\d]{2}\])/ ){
   print "$line matched: $1\n"; 
}

<强> UPDATE2

你做错了一些事情。

我没有看到您将内容存储到日期hash

print "\n\n $line matched : $_\n";

应该看起来像seen hash,这没有多大意义。你想用这个存储的日期数据做什么?

$data{$1} = "some value, which is up to you";

您无法在一个hashes循环中循环使用两个for

for my $foo (keys %h)(keys %h2) { # do stuff }

对于最后一个排序位,您应该只sort keys

for my $key (sort keys %seen ) {