Linux日志管理

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
日志服务 SLS,月写入数据量 50GB 1个月
简介:

无意义的卷首语:大数据时代,日志作为数据的切实表现载体,重要性不言而喻。前几天阿拉还看到有差点为了数据轻生的工程师。啊啊,一身过硬的本领果然是存活于人世的基本素养啊。不过人无完人,事情发生了也只能解决问题不是。如果能在事情发生之前有防患于未然的意识就再好不过了。顺便,人生一世不易,放弃之前还请三思。


日志说明

安装:yum install rsyslog -y(CentOS5为syslog)

rsyslog有三部分:

    syslogd: system application 记录应用与网络服务日志

    klogd: linux kernel 记录内核日志

    logrotate:对日志文件进行切割循环记录

rsyslog特性:

    多线程

    支持UDP, TCP, SSL, TLS, RELP加密可在

    MySQL, PGSQL, Oracle等数据库上实现日志存储

    强大的过滤器,可实现过滤记录日志信息中任意部分

    自定义输出格式,适用于各种需求

facility:应用程序中负责生成日志的机制,从功能或程序上对日志进行归类

auth|authpriv(认证), cron(计划任务),daemon(服务),ftp,kern, lpr(打印),mail,news, security(auth), ser|uucp|local0-local7(系统本身), syslog(syslog程序自身)

Priority:日志级别,从低到高排序

debug, info, notice, warn(warning), err(error),crit(critical), alert, emerg(panic)

参看帮助: man 3 syslog


logger工具可以用来生成日志,如:logger -p local1.info "This is a remote log",查看/var/log/messages即可看到刚刚生成的日志

帮助:man logger


相关文件

主程序:/usr/sbin/rsyslogd

服务程序:

    CentOS 6:service rsyslog {start|stop|restart|status}

    CentOS 7:/usr/lib/systemd/system/rsyslog.service

配置文件:/etc/rsyslog.conf,/etc/rsyslog.d/*.conf

库文件: /lib64/rsyslog/*.so

配置文件格式:由三部分组成

    MODULES:相关模块配置

    GLOBAL DIRECTIVES:全局配置

    RULES:日志记录相关的规则配置

日志文件:

    /var/log/secure:系统安装日志,文本格式,应周期性分析

    /var/log/btmp:当前系统上,用户的失败尝试登录相关的日志信息,二进制格式,lastb命令进行查看

    /var/log/wtmp:当前系统上,用户正常登录系统的相关日志信息,二进制格式,last命令可以查看

    /var/log/lastlog:每一个用户最近一次的登录信息,二进制格式,lastlog命令可以查看

    /var/log/dmesg:系统引导过程中的日志信息,文本格式,用专用命令dmesg查看

    /var/log/messages :系统中大部分的信息

    /var/log/anaconda : anaconda的日志


配置文件

主配置文件内容如下:

1
2
3
4
5
6
7
8
9
10
11
12
[root@CentOS6 ~] # cat /etc/rsyslog.conf|grep -v '^#\|^$' 
$ModLoad imuxsock  # provides support for local system logging (e.g. via logger command)
$ModLoad imklog    # provides kernel logging support (previously done by rklogd)
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$IncludeConfig  /etc/rsyslog .d/*.conf
*.info;mail.none;authpriv.none; cron .none                 /var/log/messages
authpriv.*                                               /var/log/secure
mail.*                                                  - /var/log/maillog
cron .*                                                   /var/log/cron
*.emerg                                                 *
uucp,news.crit                                           /var/log/spooler
local7.*

配置格式:

facility.priority        target

设施.级别            何处

facility和priority之间符号的含义:

    .:点表示包含比自身级别低的所有等级

    .=:仅记录目前等级,其他都不要

    .!:除目前等级外的都记录

其余等级:

    *: 所有级别 none

    :没有级别,即不记录

target:日志保存的位置可以为以下几种

    文件路径:通常在/var/log/,文件路径前的-表示异步写入 

    用户:将日志事件通知给指定的用户,* 表示登录的所有用户 

    日志服务器:@host,把日志送往至指定的远程服务器记录 

    管道: | COMMAND,转发给其它命令处理

配置rsyslog成为日志服务器(只需在配置文件将下列几行的注释符去掉即可)

1
2
3
4
5
6
7
### MODULES ####
vides UDP syslog reception
$ModLoad imudp
$UDPServerRun 514
# Provides TCP syslog reception
$ModLoad imtcp
$InputTCPServerRun 514


日志管理工具 journalctl (centos7)

配置文件:/etc/systemd/journald.conf

用法:

查看所有日志(默认情况下 ,只保存本次启动的日志) journalctl

查看内核日志(不显示应用日志) journalctl -k

查看系统本次启动的日志 journalctl -b [-0] 

查看上一次启动的日志(需更改设置) journalctl -b -1

查看指定时间的日志

    journalctl --since="2017-10-30 18:10:30" 

    journalctl --since "20 min ago" 

    journalctl --since yesterday 

    journalctl --since "2017-01-10" --until "2017-01-11 03:00"

    journalctl --since 09:00 --until "1 hour ago"

显示尾部的最新10行日志 journalctl -n 

显示尾部指定行数的日志 journalctl -n 20

实时滚动显示最新日志 journalctl -f

查看指定服务的日志 journalctl /usr/lib/systemd/systemd

查看指定进程的日志 journalctl _PID=1

查看某个路径的脚本的日志 journalctl /usr/bin/bash 

查看指定用户的日志 journalctl _UID=33 --since today

查看某个 Unit 的日志 journalctl -u nginx.service [--since today]

实时滚动显示某个 Unit 的最新日志 journalctl -u nginx.service -f

合并显示多个 Unit 的日志 journalctl -u nginx.service -u php-fpm.service --since today

查看指定优先级(及其以上级别)的日志(共有8级 0: emerg 1: alert 2: crit 3: err 4: warning 5: notice 6: info 7: debug) journalctl -p err -b 

日志默认分页输出,--no-pager 改为正常的标准输出 journalctl --no-pager

以 JSON 格式(单行)输出 journalctl -b -u nginx.service -o json

以 JSON 格式(多行)输出,可读性更好 journalctl -b -u nginx.serviceqq -o json-pretty

显示日志占据的硬盘空间 journalctl --disk-usage

指定日志文件占据的最大空间 journalctl --vacuum-size=1G

指定日志文件保存多久 journalctl --vacuum-time=1years


实验:rsyslog将日志记录于MySQL中

(1) 准备MySQL Server

yum install mariadb mariadb-client

systemctl start mariadb

mysql_secure_installation (执行一遍此脚本)

(2) 在mysql server上授权rsyslog能连接至当前服务器

mysql> GRANT ALL ON Syslog.* TO 'USER'@'HOST' IDENTIFIED BY 'PASSWORD';

(3) 在rsyslog服务器上安装mysql模块相关的程序包

yum install rsyslog-mysql

(4) 为rsyslog创建数据库及表;

mysql -uUSERNAME -hHOST -pPASSWORD </usr/share/doc/rsyslog-7.4.7/mysql-createDB.sql

(5) 配置rsyslog将日志保存到mysql中

#### MODULES ####

$ModLoad ommysql

#### RULES ####

facility.priority :ommysql:DBHOST,DBNAME,DBUSER, PASSWORD

以上中第一步和第四步centos6与CentOS7命令有所不同。centos6里yum安装数据库应是mysql。第四步/usr/share/doc/目录下可tab键补出对应的createDB.mysql文件。


实验:通过loganalyzer展示数据库中的日志

(1) 在rsyslog服务器上准备amp或nmp组合

yum install httpd php php-mysql php-gd

相关配置请参考:http://amelie.blog.51cto.com/12850951/1974905

(2) 安装LogAnalyzer

tar xf loganalyzer-4.1.5.tar.gz

cp -a loganalyzer-4.1.5/src

/var/www/html/loganalyzer

cd /var/www/html/loganalyzer

touch config.php

chmod 666 config.php

(3) 配置loganalyzer

systemctl start httpd.service

http://HOST/loganalyzer

MySQL Native, Syslog Fields, Monitorware

(4) 安全加强

cd /var/www/html/loganalyzer

chmod 644 config.php


Logrotate日志存储

一般通过 cron 程序根据日志文件的大小,也可以根据其天数来转储,从而执行日志滚动。

配置文件是 /etc/logrotate.conf

主要参数如下:

compress 通过gzip 压缩转储以后的日志

nocompress 不需要压缩时,用这个参数

copytruncate 用于还在打开中的日志文件,把当前日志备份并截断

nocopytruncate 备份日志文件但是不截断

create mode owner group 转储文件,使用指定的文件模式创建新的日志文件

nocreate 不建立新的日志文件

delaycompress 和 compress 一起使用时,转储的日志文件到下一次转储时才压缩

nodelaycompress 覆盖 delaycompress 选项,转储并压缩

errors address 专储时的错误信息发送到指定的Email 地址

ifempty 即使是空文件也转储,是缺省选项。

notifempty 如果是空文件的话,不转储

mail address 把转储的日志文件发送到指定的E-mail 地址

nomail 转储时不发送日志文件

olddir directory 转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统

noolddir 转储后的日志文件和当前日志文件放在同一个目录下

prerotate/endscript 在转储以前需要执行的命令可以放入这个对,这两个关键字必须单独成行

postrotate/endscript 在转储以后需要执行的命令可以放入这个对,这两个关键字必须单独成行

daily 指定转储周期为每天

weekly 指定转储周期为每周

monthly 指定转储周期为每月

size 大小 指定日志超过多大时,就执行日志转储

rotate count 指定日志文件删除之前转储的次数,0指没有备份,5指保留5个备份

Missingok 如果日志不存在,提示错误

Nomissingok如果日志不存在,继续下一次日志,不提示错误













本文转自阿拉杜美美51CTO博客,原文链接: http://blog.51cto.com/amelie/1977281,如需转载请自行联系原作者

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
17天前
|
监控 Shell Linux
Android调试终极指南:ADB安装+多设备连接+ANR日志抓取全流程解析,覆盖环境变量配置/多设备调试/ANR日志分析全流程,附Win/Mac/Linux三平台解决方案
ADB(Android Debug Bridge)是安卓开发中的重要工具,用于连接电脑与安卓设备,实现文件传输、应用管理、日志抓取等功能。本文介绍了 ADB 的基本概念、安装配置及常用命令。包括:1) 基本命令如 `adb version` 和 `adb devices`;2) 权限操作如 `adb root` 和 `adb shell`;3) APK 操作如安装、卸载应用;4) 文件传输如 `adb push` 和 `adb pull`;5) 日志记录如 `adb logcat`;6) 系统信息获取如屏幕截图和录屏。通过这些功能,用户可高效调试和管理安卓设备。
|
4月前
|
存储 运维 监控
Linux--深入理与解linux文件系统与日志文件分析
深入理解 Linux 文件系统和日志文件分析,对于系统管理员和运维工程师来说至关重要。文件系统管理涉及到文件的组织、存储和检索,而日志文件则记录了系统和应用的运行状态,是排查故障和维护系统的重要依据。通过掌握文件系统和日志文件的管理和分析技能,可以有效提升系统的稳定性和安全性。
84 7
|
4月前
|
监控 安全 Linux
启用Linux防火墙日志记录和分析功能
为iptables启用日志记录对于监控进出流量至关重要
110 1
|
5月前
|
监控 Linux 开发者
如何在 Linux 中优雅的使用 head 命令,用来看日志简直溜的不行
`head` 命令是 Linux 系统中一个非常实用的工具,用于快速查看文件的开头部分内容。本文介绍了 `head` 命令的基本用法、高级用法、实际应用案例及注意事项,帮助用户高效处理文件和日志,提升工作效率。
87 7
|
6月前
|
监控 网络协议 安全
Linux系统日志管理
Linux系统日志管理
128 3
|
8月前
|
缓存 NoSQL Linux
【Azure Redis 缓存】Windows和Linux系统本地安装Redis, 加载dump.rdb中数据以及通过AOF日志文件追加数据
【Azure Redis 缓存】Windows和Linux系统本地安装Redis, 加载dump.rdb中数据以及通过AOF日志文件追加数据
186 1
【Azure Redis 缓存】Windows和Linux系统本地安装Redis, 加载dump.rdb中数据以及通过AOF日志文件追加数据
|
6月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控总结
Linux系统命令与网络,磁盘和日志监控总结
125 0
|
6月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控三
Linux系统命令与网络,磁盘和日志监控三
88 0
|
8月前
|
监控 安全 Linux
在Linux中,某个账号登陆linux后,系统会在哪些日志文件中记录相关信息?
在Linux中,某个账号登陆linux后,系统会在哪些日志文件中记录相关信息?
|
8月前
|
Java Linux C++
【Azure 应用服务】App Service For Linux 部署Java Spring Boot应用后,查看日志文件时的疑惑
【Azure 应用服务】App Service For Linux 部署Java Spring Boot应用后,查看日志文件时的疑惑
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等