多server多站点情况下awstats日志分析

  1. 云栖社区>
  2. 博客>
  3. 正文

多server多站点情况下awstats日志分析

技术小胖子 2017-11-16 04:12:00 浏览1011
展开阅读全文

情景描述:

    公司web服务器分为三个集群:前台(包括www、news、m等站点);图片(包括img、static等站点);后台(包括user、interface等站点)。这种情况下如何使用awstats进行日志分析呢?

这个需求我们很容易想到其中的几个“关键点”

    1、如何将各台web server上的站点日志拷贝到awstats server上的合适位置以备处理呢?这好说,写脚本用scp或者rsync嘛!ok,再想一步,如何在server数量或者server上站点发生变化时,脚本依然能够正确的完成任务呢?这就要各server上关于日志名称、日志及其备份目录、日志轮转等方面做统一约定了,脚本按照这个约定才能“以不变应万变”。

    2、一个站点的访问日志势必会有多份,awstats如何处理呢?还好这一点awstats已经帮我们想好了,在awstats配置文件里关于“LogFile=”部分的注释已经写得很清楚。

    3、这么多站点,最好有一个统一的入口页面,而且增减站点入口要简单,用着才方便。


基于以上几点,本文分享一种思路,若有不当之处,还请不吝指教。

文章分四个部分:前提及约定;awstats配置要点和FastCGI方式配置;集中展示页面(JavaScript实现);日志收集处理脚本


一、前提及约定

先看下我的约定(其实某些约定即使在本文之外也是很有必要的,例如1、2。脚本的正常运行依赖于这些约定):

    1、日志命名:如www.abc.com访问日志命名为www.access.log;日志存放位置:当前的日志存在于/nginx_log目录,日志备份存储于/nginx_log/backup。看下图就一目了然了

wKioL1ZhOQDQL4DyAAEZdBm5CRI547.png

    2、日志轮转:我的web server为nginx,通过日志切割脚本自动在0点重新生成日志,并将旧日志文件以前一天的日期为后缀命名(例如“images.access.log.2015-12-02”)移动到日志备份目录。

看下日志切割脚本(在每台web server定时0点执行

cat rotate_nginx_logs.sh

1
2
3
4
5
6
7
8
9
10
11
12
#!/bin/sh
logs_path="/nginx_log"    ###日志存放路径
logs_bak_dir="/nginx_log/backup"    ###日志备份目录
yesterday=`date -d "1 day ago" +%`
pid_file=`cat /usr/local/nginx/nginx.pid`    ###nginx pid 文件
 
cd $logs_path
for log in `ls *.log`;do mv $log $logs_bak_dir/$log.$yesterday;done    ###重命名日志文件
kill -USR1 $pid_file    ###告知nginx重新生成日志
 
cd $logs_bak_dir
find . -mtime +5|xargs rm -f    ###删除backup目录下超过5天的备份

    3、每天凌晨自动完成这一系列任务, 页面最新可显示昨日的分析结果

    4、各站点日志文件拉取到awstats server后的存储形式

wKioL1ZhRqHCdNfBAABGHBsoL8c919.png

wKioL1ZhlMHA2ZPvAAB4ToJjXYU500.png

    5、awstats server设置对所有相关web server的免秘钥登陆,以便拉取日志

二、awstats配置要点和FastCGI方式配置

    这里不展开详细的安装步骤,只说明一些配置选项以及如何配置动态模式。

    awstats有两种方式展示分析结果:一种是命令行生成html格式的分析页面;另一种是在浏览器通过向CGI网关传递参数来动态生成分析结果。

    其实在原理上,这两种形式都需要“perl  awstats.pl  -config=mysite.conf  -update”命令定时更新生成指定站点的“数据文件”(即经过awstats.pl分析日志生成的中间文件),然后可以分两种方法(对中间文件进行处理)生成我们看到的分析页面:

    1、通过“perlawstats.pl  -config=www.conf  -output -staticlinks > www.html”命令生成html文件用于展示 

    2、web服务器通过FastGCI调用类似“http://awstats.abc.com/cgi-bin/awstats.pl?config=/usr/local/services/awstats-7.4/etc/www.conf”的url在访问时动态生成分析页面。

    两种方式各有优缺:第一种定时生成html文件,访问时页面加载快,但是页面布局使用起来不方便也不美观;第二种在打开页面时需要临时处理“数据文件”生成html,页面加载速度根据“数据文件”大小不同会有不同程度延迟,但是动态形式的页面布局看着舒服用着顺手(所以我选择fastcgi模式)。

fastcgi模式页面如下图所示

wKiom1Zf5rvA7T-5AADsbbDQHj4480.png

来看下我的awstats目录,其中我增加了三个目录,如下图

wKiom1Zif77jSIJCAAErFRL-pbs897.png

然后来看下配置文件里需要注意的几个地方

1
2
3
4
5
6
7
8
###因为我们每一个站点的日志文件不止一份,所以LogFile必须按照以下模式配置
LogFile="/usr/local/services/awstats-7.4/tools/logresolvemerge.pl /nginx_log/log_analyze/www/*.log* |"
###DirData按照上图所示,存储于result下,例如 result/www  result/img等
DirData="/usr/local/services/awstats-7.4/result/www"
###DirCgi="/awstats"    将此行注释掉
 
LoadPlugin="decodeutfkeys"    ###将此行的注释打开。否则页面“搜索关键字”可能乱码
同时yum install perl-String-Escape perl-URI-Encode 安装perl字符及URL解码模块

然后再看“配置文件”的生成管理:

各站点的配置文件存放于awstats/etc下,如www.conf,img.conf等。面对如此多的配置文件,这里写了个简单的小脚本来批量修改/生成配置文件。我们只需修改好一份配置文件,再运行该脚本即可(如,以www.conf为模板, 则执行"sh awstats/shells/batch_conf_file.sh www")

cat awstats/shells/batch_conf_file.sh

1
2
3
4
5
6
7
8
9
10
11
12
#!/bin/sh
###批量建数据目录,批量 创建各域名配置文件
cd /usr/local/services/awstats-7.4
for in `ls result`    #这一步需下文的日志收集脚本执行完,在result目录下生成了各站点目录才能正确执行
do
    if [ $1 != $i ];then
        echo -e "\n------ create $i.conf -------"
        rsync -a etc/$1.conf etc/$i.conf
        echo -e "------replace $1 by $i -------"
        sed -i "/^[^#].*/ s/$1/$i/g" etc/$i.conf
    fi
done

最后来看fastcgi模式的配置

1、在tools/nginx/目录下有相关文件

2、将tools/nginx/awstats-fcgi.php 拷贝至wwwroot/cgi-bin/fcgi.php

3、修改tools/nginx/awstats-nginx.conf 文件相关配置,并在nginx主配置文件里面引用该文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
server {
        listen 80;
        server_name awstats.abc.com;
        root /usr/local/services/awstats-7.4/wwwroot;
       #charset utf8;
        index index.html;
         
        # Static awstats files: HTML files stored in DOCUMENT_ROOT/awstats/
        location /awstats/classes/ {
                alias /usr/local/services/awstats-7.4/wwwroot/classes/;
        }
        location /awstats/css/ {
                alias /usr/local/services/awstats-7.4/wwwroot/css/;
        }
        location /awstats/icon/ {
                alias /usr/local/services/awstats-7.4/wwwroot/icon/;
        }
        location /awstats-icon/ {
                alias /usr/local/services/awstats-7.4/wwwroot/icon/;
        }
        location /awstats/js/ {
                alias /usr/local/services/awstats-7.4/wwwroot/js/;
        }
        # Dynamic stats.
        location ~ ^/cgi-bin/(awredir|awstats)\.pl {
                gzip off;
                fastcgi_pass 127.0.0.1:9000;
                fastcgi_param SCRIPT_FILENAME $document_root/cgi-bin/fcgi.php;
                fastcgi_param X_SCRIPT_FILENAME $document_root$fastcgi_script_name;
                fastcgi_param X_SCRIPT_NAME $fastcgi_script_name;
                include fastcgi_params;
                #下面这三行酌情设置。太小可能会导致页面“链接被重置”
                fastcgi_connect_timeout 300;
                fastcgi_send_timeout 300;
                fastcgi_read_timeout 300;
        }
}

三、集中展示页面

如果有多个域名的话,每次查看都需要输入对应的一串url肯定是很麻烦的。这里用html和JavaScript写了一个小页面,把所有域名的入口集中到一起,如下图所示

wKioL1ZgFOez32NVAABRDCDVJ7M293.png

index.html文件内容如下(如有站点的增减,只需在js的vhost数组对应增减即可)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
<html>
<head>
<title>源站日志分析</title>
<style type="text/css"
    .wrap{
        width:1200px;
        margin:5px auto;
        border:0 solid #000;
    }
    table {
        width:660px;
        margin:5px auto;
        border:2px solid #E0E0E0;
        background-color:#F0F0F0;
        border-collapse:collapse;
    }
    td {
        width:220px;
        height:45px;
        font-size:1.1em;
        text-align:center;
        border:0 solid #2894FF;
    }
    h1 {text-align:center;color:#0072E3;font-family:"Microsoft YaHei",SimSun,BiauKai;}
    a {text-decoration:none;color:#0072E3;}
    a:hover{color:#FF5809}
</style>
</head>
<body>
    <div class="wrap">
        <h1>源站日志分析平台</h2>
        <script type="text/javascript">
            //域名数组,需要添加或删除域名只需在这里修改即可,会自动为其设置对应的超链接  
            var vhost=[
                "www.abc.com",
                "m.abc.com",
                "news.abc.com",
                "static.abc.com",
                "images.abc.com",
                "bbs.abc.com",
                "i.abc.com",
                "interface.abc.com",
                "open.abc.com",               
            ];
            var num=vhost.length;    //域名数量
            var j=101;    //j为行id,100为了避免跟单元格id重复而随意指定           
 
            //利用JavaScript创建表格
            for (var i=1;i<=num;i++) {
         
                if (i==1) {
                    document.write("<table><tr id=\"101\"><td id=\"1\" onmouseover=\"chg_td_bgcolor()\">");
                }            
                else if (i==num) {document.write("<td id=\"" + num + "\" onmouseover=\"chg_td_bgcolor()\"></td></tr></table>")} 
                else if (i%3==0) {
                    j++;    //每三个单元格一个新行,行号加一
 
                    document.write("<td id=\""+ i +"\" onmouseover=\"chg_td_bgcolor()\">"+ i +"</td>");
                    document.write("</tr><tr id=\""+j +"\">");
                }                
                else {document.write("<td id=\""+ i +"\" onmouseover=\"chg_td_bgcolor()\">"+ i +"</td>");}
            
 
            //向表格填充内容
            for (var tdid=0;tdid<num;tdid++) {
                //依顺序获取各td元素
                var tdnode=document.getElementById(tdid+1);
                //取出每个域名里的主机名,服务器端awstats该站点配置文件命名方式为 “主机名.conf”
                var hostname=vhost[tdid].split(".abc",1);
                //向表格插入域名并且设置超链接,config文件的位置各位自行设置
                tdnode.innerHTML="<a href=\"cgi-bin/awstats.pl?config=/usr/local/services/awstats-7.4/etc/"+hostname+ ".conf\">" +vhost[tdid] +"</a>";
            }
             
            //设置table行背景色
            for (var x=101;x<=j;x++){
                var row=document.getElementById(x);
                if (x%2==0) {
                    row.style.background="#E0E0E0";
                }
            }
 
            //连接在新窗口打开
            var allLinks=document.getElementsByTagName("a");
            for(var i=0;i!=allLinks.length; i++){
                allLinks[i].target="_blank";
            }
        </script>
    </div>
</body>
</html>

四、日志收集、处理

这里我在awstats server上写了一套shell脚本来实现无论web server上运行哪些站点,只要告诉脚本该server的ip即可将该server上所有站点日志拷贝至本机的合适位置以待分析。各server的ip信息记录于"/root/shells/ips.txt",每条记录一行,如“web1-192.168.1.1”

来看脚本内容,脚本内注释应该已经比较详细了

cat awstats/shells/cp_logs_for_awstats.sh

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
#!/bin/sh
 
log_dir_s=/nginx_log/backup                #各台server日志文件源目录
log_dir_d=/nginx_log/log_analyze           #定义将日志在本地后的最终存放路径
time1=`date -d "1 day ago" +%F`            #获取一天前的日期
time2=`date -d "2 day ago" +%F`
basedir=/usr/local/services/awstats-7.4    #awstats目录
 
echo -e "`date`  开始拉取日志\n" >$basedir/logs/cron.log
 
###ips.txt记录需要统计日志的所有server的hostname和ip.若增加web server,只需在该文件添加新server的记录如“web1-192.168.1.1”即可
for server_ip in `cat /root/shells/ips.txt`; do
    ip=`echo $server_ip|awk -F '-' '{print $2}'`   #获取各server IP
     
    echo -e "\e[1;32m \nrsync logs from $ip\e[0m" >>$basedir/logs/cron.log
    ###将该ip下的所有前一天的access日志拷贝至本地/tmp下
    rsync -avz --compress-level=6 --exclude="default.*" --min-size=1k $ip:$log_dir_s/*access*"$time1" /tmp/
    if [ $? != 0 ];then    #检查rsync命令执行成功与否 
        echo -e "\e[1;31m \nrsync logs from $ip seems wrong!\e[0m" >>$basedir/logs/cron.log
    fi
    ###取得上一天的日志备份文件名 log_name
    for log_name in `cd /tmp/;ls *.access.log*`; do
        vhost_name=`echo $log_name|awk -F.access '{print $1}'`    #取得web server的vhost名
 
        echo -e "\e[1;32m ----------处理$vhost_name日志----------\e[0m"
         
        ###在本地建立目录分类存放cp过来的日志
        if [ ! -d "$log_dir_d/$vhost_name" ];then
            mkdir $log_dir_d/$vhost_name
        fi
        rm -f $log_dir_d/$vhost_name/*"$time2"*
        ###从tmp下依次mv日志文件到目标目录,以日志所在server的ip为后缀
        mv /tmp/$log_name  $log_dir_d/$vhost_name/$log_name.$ip      
         
        ###在swstats目录下建立目录用于存放awstats.pl处理日志生成的“中间文件”
        if [ ! -d "$basedir/result/$vhost_name" ];then
            mkdir $basedir/result/$vhost_name
        fi        
    done
done
 
echo -e "`date`  拉取日志完成\n" >>$basedir/logs/cron.log

上面的shell脚本只是将分散在各web server的日志文件按规则拉取到了本地特定目录,接下来的shell脚本用来调用awstats.pl循环处理各站点日志

cat awstats/shells/cron_awstats_update.sh

1
2
3
4
5
6
7
8
9
10
11
12
13
14
#!/bin/sh
 
#awstats日志分析
basedir=/usr/local/services/awstats-7.4
 
cd $basedir
#循环更新所有站点日志统计信息
echo -e "\e[1;31m-------`date "+%F %T"`    开始处理---------\n\e[0m" >>logs/cron.log
for in `ls result/`
do
   echo -e "\e[1;32m -----`date "+%F %T"`  处理 $i 日志-----\e[0m" >>logs/cron.log
   perl wwwroot/cgi-bin/awstats.pl -config=etc/$i.conf -lang=cn -update &>>logs/cron.log
done
echo -e "\e[1;31m\n-------`date "+%F %T"`  处理完成---------\e[0m" >>logs/cron.log

这两个脚本作为计划任务在awstats server运行,我的crontab如下

1
2
#日志分析平台
5 0 * * * /bin/bash /root/shells/cp_logs_to_img2_for_awstats.sh ; /bin/bash /root/shells/cron_awstats_update.sh

至此,这么一套东西就算完成了。


写了这么多,希望我说清楚了。看到此处的伙伴,希望能对你们有些许帮助吧!



     本文转自kai404 51CTO博客,原文链接:http://blog.51cto.com/kaifly/1719248,如需转载请自行联系原作者


网友评论

登录后评论
0/500
评论
技术小胖子
+ 关注