mysql主从日志的定期清理

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介:

 mysql主从的binlog定时删除是很重要的,一般是通过expire_logs_days = 10来设置binlog保留的天数(mysql5.0一下版本不支持),但有时这还不够,假如有几天的日志量非常大,硬盘可能会满,所以不但要设置保留的天数,还要监控硬盘的空间使用情况。写了一个脚本,适合各个版本的mysql,保留3天的日志,当存放日志的硬盘使用率超过80%,则保留2天,但至少会保留一天的binlog日志文件。

 
  1. #!/bin/env python 
  2. # -*- coding: utf-8 -*- 
  3. ############################################################## 
  4. #查看存在binlog的目录位置并找出3天前的最后一个bin-log文件名字 
  5. #删除3天以前的binlog文件,删除之后data1目录挂载的硬盘使用率超 
  6. #过的80%的话,继续删除2天前的日志文件,至少保留一天的日志。 
  7. ############################################################## 
  8.  
  9. import os,sys,time,MySQLdb 
  10.  
  11. def log_w(text): 
  12.     logfile = "/usr/local/zabbix/bin/delet.log" 
  13.     now = time.strftime("%Y-%m-%d %H:%M:%S"
  14.     tt = now + "\t" + str(text) + "\n" 
  15.     f = open(logfile,'a+'
  16.     f.write(tt) 
  17.     f.close() 
  18.  
  19. def mysql_conn(port,lastlog,days): 
  20.     try
  21.         center_ip = '127.0.0.1' 
  22.         center_user = 'repl_monitor' 
  23.         center_passwd = 'VQMQLGwTaw3k0UV8' 
  24.         sql = "PURGE MASTER LOGS TO '%s';" % lastlog 
  25.         conn = MySQLdb.connect(host = center_ip,port = int(port),user = center_user,passwd = center_passwd,connect_timeout=5
  26.         cursor = conn.cursor()  
  27.         cursor.execute(sql) 
  28.         alldata = cursor.fetchall() 
  29.         cursor.close() 
  30.         conn.close() 
  31.         text = "Deltet before %s days binlog,deltet %s before !" % (days,lastlog) 
  32.         log_w(text) 
  33.     except Exception,e: 
  34.         log_w(e) 
  35.  
  36. def find_logdir(): 
  37.     conn = "find / -name binlog|grep -v usr" 
  38.     logdir_list = os.popen(conn).readlines() 
  39.     if len(logdir_list) != 0
  40.         for logdir in logdir_list: 
  41.             datadir = logdir.strip().split("/")[1
  42.             if "mysql_log" in logdir.strip(): 
  43.                 port = 3306 
  44.             else
  45.                 port = logdir.strip().split("/")[3].split("-")[-1
  46.             days = 3 
  47.             while 1
  48.                 conn = "find %s -mtime %s|sort" % (logdir.strip(),days) 
  49.                 count = os.popen(conn).readlines() 
  50.                 if len(count) != 0
  51.                     lastlog = count[-1].strip().split("/")[-1
  52.                     mysql_conn(port,lastlog,days) 
  53.  
  54.                 df = "df -h|grep -e '%s$'|awk '{print $5}'|awk -F '%%' '{print $1}'" % datadir 
  55.                 disk = os.popen(df).read().strip() 
  56.                 if not disk: 
  57.                     break 
  58.                 else
  59.                     if int(disk) < 80
  60.                         break 
  61.                     else
  62.                         days = days - 1 
  63.                         if days == 1
  64.                             break 
  65.     else
  66.         sys.exit() 
  67.  
  68. if __name__ == "__main__"
  69.     find_logdir() 

 


本文转自 lover00751CTO博客,原文链接:http://blog.51cto.com/wangwei007/1123088,如需转载请自行联系原作者


相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
10天前
|
存储 安全 关系型数据库
Mysql 的binlog日志的优缺点
MySQL的binlog(二进制日志)是一个记录数据库更改的日志文件,它包含了所有对数据库执行的更改操作,如INSERT、UPDATE和DELETE等。binlog的主要目的是复制和恢复。以下是binlog日志的优缺点: ### 优点: 1. **数据恢复**:当数据库出现意外故障或数据丢失时,可以利用binlog进行点恢复(point-in-time recovery),将数据恢复到某一特定时间点。 2. **主从复制**:binlog是实现MySQL主从复制功能的核心组件。主服务器将binlog中的事件发送到从服务器,从服务器再重放这些事件,从而实现数据的同步。 3. **审计**:b
|
17天前
|
Linux Shell
Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式
Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式
70 1
|
21天前
|
SQL 关系型数据库 MySQL
MySQL数据库,可以使用二进制日志(binary log)进行时间点恢复
对于MySQL数据库,可以使用二进制日志(binary log)进行时间点恢复。二进制日志是MySQL中记录所有数据库更改操作的日志文件。要进行时间点恢复,您需要执行以下步骤: 1. 确保MySQL配置文件中启用了二进制日志功能。在配置文件(通常是my.cnf或my.ini)中找到以下行,并确保没有被注释掉: Copy code log_bin = /path/to/binary/log/file 2. 在需要进行恢复的时间点之前创建一个数据库备份。这将作为恢复的基准。 3. 找到您要恢复到的时间点的二进制日志文件和位置。可以通过执行以下命令来查看当前的二进制日志文件和位
|
1月前
|
关系型数据库 MySQL 开发工具
MySQL5.7主从配置(Docker)
MySQL5.7主从配置(Docker)
725 0
|
9天前
|
SQL 关系型数据库 MySQL
mysql主从同步出错解决办法
mysql主从同步出错解决办法
7 0
|
22天前
|
XML 运维 监控
【深入探究 C++ 日志库清理策略】glog、log4cplus 和 spdlog 的日志文件管理策略
【深入探究 C++ 日志库清理策略】glog、log4cplus 和 spdlog 的日志文件管理策略
61 0
|
1月前
|
存储 SQL 关系型数据库
[MySQL]事务原理之redo log,undo log
[MySQL]事务原理之redo log,undo log
|
1月前
|
SQL 缓存 关系型数据库
MySQL的万字总结(缓存,索引,Explain,事务,redo日志等)
MySQL的万字总结(缓存,索引,Explain,事务,redo日志等)
65 0
|
16天前
|
Java
使用Java代码打印log日志
使用Java代码打印log日志
71 1
|
26天前
|
监控 Shell Linux
【Shell 命令集合 系统管理 】Linux 自动轮转(log rotation)日志文件 logrotate命令 使用指南
【Shell 命令集合 系统管理 】Linux 自动轮转(log rotation)日志文件 logrotate命令 使用指南
48 0