AWStats分析Nginx访问日志

简介:

    AWStats是在Sourceforge上发展很快的一个基于Perl的WEB日志分析工具。

    它可以统计您站点的如下信息:

  • 访问量(UV),访问次数,页面浏览量(PV),点击数,数据流量等

  • 精确到每月、每日、每小时的数据

  • 访问者国家

  • 访问者IP

  • Robots/Spiders的统计

  • 访客持续时间

  • 对不同Files type的统计信息

  • Pages-URL的统计

  • 访客操作系统浏览器等信息

  • 其它信息(搜索关键字等等)

    下面是AWStats分析Nginx日志的操作步骤:

一、配置nginx日志格式

    修改nginx.conf的日志格式,不然awstats无法分析。

1
2
3
4
     log_format access  '$remote_addr - $remote_user [$time_local] "$request" '
         '$status $body_bytes_sent "$http_referer" '
         '"$http_user_agent" "$http_x_forwarded_for"' ;
     access_log  /var/log/nginx/access .log access;

    注意,日志格式里的双引号不能漏了且每个参数之间是一个空格分隔,因为只要有细微的差别,awstats就无法读取日志。

    改好后,使nginx重读配置文件:

1
shell # nginx -t && nginx -s reload

二、自动切割nginx日志

    每天晚上23点59分定时执行一个shell脚本来切割nginx日志。脚本内容如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
#!/bin/bash
#
# Filename:    nginxCutLog.sh
# Author:      Qicheng
# Website:     http://qicheng0211.blog.51cto.com/
# Description: 切割nginx日志
# Notes:       设置crontab,每天23点59分定时执行
#
ROOT_UID=0
if  "$UID"  - ne  "$ROOT_UID"  ]; then
     echo  "Error: 必须以root用户运行此程序!"
     exit  1
fi
 
nginx_logs_dir= "/var/log/nginx"
nginx_pid_file= "/var/run/nginx.pid"
# 切割后的日志文件名,例如access_20141022.log
nginx_log_today= "$nginx_logs_dir/access_`date +%Y%m%d`.log"
 
while  [ ` date  +%S` - ne  59 ]; do
         sleep  1
done
sleep  1
[ -f  "$nginx_log_today"  ] &&  exit  1
mv  $nginx_logs_dir /access .log $nginx_log_today
# 给nginx发送USR1信号,使重新打开新的access.log日志文件
[ -f $nginx_pid_file ] &&  /bin/kill  -USR1 $( cat  $nginx_pid_file)

    设置crontab:

1
59 23 * * *  /bin/bash  /yourscriptpath/nginxCutLog .sh

三、安装awstats

1
2
3
4
shell # wget http://awstats.sourceforge.net/files/awstats-7.0.tar.gz
shell # tar -zxvf awstats-7.0.tar.gz
shell # mv awstats-7.0 /usr/local/awstats
shell # mkdir -p /var/lib/awstats

四、配置awstats

    进入/usr/local/awstats/tools/目录,执行配置脚本awstats_configure.pl:

1
2
shell # cd /usr/local/awstats/tools/
shell # ./awstats_configure.pl

wKiom1RHIZLC7_9AAAb4OHgq8T4716.jpg

    程序执行结束后,会在/etc/awstats/目录下生成你的配置文件。然后编辑配置文件,修改LogFile参数,跟日志切割脚本中的日志路径对应起来:

1
LogFile= "/var/log/nginx/access_%YYYY-24%MM-24%DD-24.log"

    注意,这里日期格式“%YYYY-24%MM-24%DD-24”,是指24小时之前的年月日,也就是昨天的日期。

    测试:

1
shell # /usr/local/awstats/wwwroot/cgi-bin/awstats.pl -update -config=yourwebsite

    注意:-config=后面的参数是你在执行awstats_configure.pl时输入的站点域名。

wKiom1RHUo3RAos-AAJFMJnsCX0874.jpg

五、配置awstats生成静态页面

    利用awstats的工具将统计的结果生成静态文件:

1
2
shell # mkdir -p /var/www/awstats
shell # /usr/local/awstats/tools/awstats_buildstaticpages.pl -update -config=yourwebsite -lang=cn -dir=/var/www/awstats -awstatsprog=/usr/local/awstats/wwwroot/cgi-bin/awstats.pl

    注意:-config=后面的参数是你在执行awstats_configure.pl时输入的站点域名;-dir=是统计结果静态文件的输出目录。

    设置crontab,每天凌晨00:01定时更新静态页面:

1
1 0 * * *  /usr/local/awstats/tools/awstats_buildstaticpages .pl -update -config=yourwebsite -lang=cn - dir = /var/www/awstats  -awstatsprog= /usr/local/awstats/wwwroot/cgi-bin/awstats .pl

    一般站长都不愿随便让人知道自己站的真实流量,所以要把awstats统计结果页面进行密码保护,这里需要用到apache自带的工具htpasswd:

1
2
3
4
5
shell # yum -y install httpd-tools
shell # htpasswd -cd admin.pass admin
New password: 
Re- type  new password: 
Adding password  for  user admin

    把生成的密码文件admin.pass放到nginx主配置目录下(/etc/nginx/)。

    在nginx配置扩展目录(/etc/nginx/conf.d/)下新建awstats.conf配置文件,内容如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
server {
     listen       83;
     server_name  localhost;
     location ~ ^ /awstats/  {      # html 静态页面目录
         root    /var/www ;
         index  index.html;
         access_log off;
         error_log off;
         charset gb2312;
         auth_basic  "admin" ;
         auth_basic_user_file admin.pass;
     }
 
     location ~ ^ /icon/  {         # 图标目录
         root    /usr/local/awstats/wwwroot ;
         index  index.html;
         access_log off;
         error_log off;
     }
 
     location / {
         return  403;
     }
}

最后使nginx重读配置文件,用浏览器查看统计结果 http://yourhostname:83/awstats/awstats.yourwebsite.html

日志分析页面示例:

wKiom1RHSUKylF9SAAWotBFTXts481.jpg


参考资料:

http://baike.baidu.com/view/228748.htm?fr=aladdin

http://www.ibm.com/developerworks/cn/linux/l-cn-awstats-nginx/(有些错误,已在本文中纠正)



本文转自 张斌_青岛 51CTO博客,原文链接:http://blog.51cto.com/qicheng0211/1566682

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
1月前
|
存储 JSON 应用服务中间件
Higress的日志收集中,底层用的是Envoy,可不可以实现类似NGINX的rsyslog发送?
【2月更文挑战第30天】Higress的日志收集中,底层用的是Envoy,可不可以实现类似NGINX的rsyslog发送?
19 2
|
5天前
工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断2
工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
10 0
|
6天前
|
机器学习/深度学习 前端开发 数据挖掘
R语言计量经济学:工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
R语言计量经济学:工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
37 0
|
14天前
|
网络协议 应用服务中间件 Linux
centos7 Nginx Log日志统计分析 常用命令
centos7 Nginx Log日志统计分析 常用命令
27 2
|
15天前
|
运维 监控 应用服务中间件
LNMP详解(十四)——Nginx日志详解
LNMP详解(十四)——Nginx日志详解
16 2
|
17天前
|
SQL 存储 监控
日志问题精要:分析与总结
该文档讲述了应用系统日志记录的重要性和规则。主要目的是记录操作轨迹、监控系统状态和回溯故障。日志记录点包括系统入口、调用其他模块、调用结束、出口和出错时。内容应遵循UTF-8编码,避免敏感信息,按INFO级别记录,及时、完整且安全。日志输出要控制频率和长度,不影响系统性能,并按策略备份和清理。日志等级分为DEBUG、INFO、WARN、ERROR和FATAL。日志文件应有明确目录结构,大小有限制,并定期清理。注意事项包括输出异常堆栈、避免打印对象实例的hashCode、选择合适的日志框架和格式,并支持动态修改日志级别。还要实现链路追踪,确保在多线程环境中正确记录日志。
18 0
|
22天前
|
存储 监控 数据可视化
Nginx+Promtail+Loki+Grafana Nginx日志展示
通过这些步骤,你可以将Nginx的日志收集、存储、查询和可视化整合在一起。这样,你就可以在Grafana中轻松地创建和展示Nginx日志的图表和面板。
30 3
|
21天前
|
Java
使用Java代码打印log日志
使用Java代码打印log日志
75 1
|
22天前
|
Linux Shell
Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式
Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式
77 1
|
26天前
|
SQL 关系型数据库 MySQL
MySQL数据库,可以使用二进制日志(binary log)进行时间点恢复
对于MySQL数据库,可以使用二进制日志(binary log)进行时间点恢复。二进制日志是MySQL中记录所有数据库更改操作的日志文件。要进行时间点恢复,您需要执行以下步骤: 1. 确保MySQL配置文件中启用了二进制日志功能。在配置文件(通常是my.cnf或my.ini)中找到以下行,并确保没有被注释掉: Copy code log_bin = /path/to/binary/log/file 2. 在需要进行恢复的时间点之前创建一个数据库备份。这将作为恢复的基准。 3. 找到您要恢复到的时间点的二进制日志文件和位置。可以通过执行以下命令来查看当前的二进制日志文件和位