mysql主从日志的定期清理

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介:

 mysql主从的binlog定时删除是很重要的,一般是通过expire_logs_days = 10来设置binlog保留的天数(mysql5.0一下版本不支持),但有时这还不够,假如有几天的日志量非常大,硬盘可能会满,所以不但要设置保留的天数,还要监控硬盘的空间使用情况。写了一个脚本,适合各个版本的mysql,保留3天的日志,当存放日志的硬盘使用率超过80%,则保留2天,但至少会保留一天的binlog日志文件。

 
  1. #!/bin/env python 
  2. # -*- coding: utf-8 -*- 
  3. ############################################################## 
  4. #查看存在binlog的目录位置并找出3天前的最后一个bin-log文件名字 
  5. #删除3天以前的binlog文件,删除之后data1目录挂载的硬盘使用率超 
  6. #过的80%的话,继续删除2天前的日志文件,至少保留一天的日志。 
  7. ############################################################## 
  8.  
  9. import os,sys,time,MySQLdb 
  10.  
  11. def log_w(text): 
  12.     logfile = "/usr/local/zabbix/bin/delet.log" 
  13.     now = time.strftime("%Y-%m-%d %H:%M:%S"
  14.     tt = now + "\t" + str(text) + "\n" 
  15.     f = open(logfile,'a+'
  16.     f.write(tt) 
  17.     f.close() 
  18.  
  19. def mysql_conn(port,lastlog,days): 
  20.     try
  21.         center_ip = '127.0.0.1' 
  22.         center_user = 'repl_monitor' 
  23.         center_passwd = 'VQMQLGwTaw3k0UV8' 
  24.         sql = "PURGE MASTER LOGS TO '%s';" % lastlog 
  25.         conn = MySQLdb.connect(host = center_ip,port = int(port),user = center_user,passwd = center_passwd,connect_timeout=5
  26.         cursor = conn.cursor()  
  27.         cursor.execute(sql) 
  28.         alldata = cursor.fetchall() 
  29.         cursor.close() 
  30.         conn.close() 
  31.         text = "Deltet before %s days binlog,deltet %s before !" % (days,lastlog) 
  32.         log_w(text) 
  33.     except Exception,e: 
  34.         log_w(e) 
  35.  
  36. def find_logdir(): 
  37.     conn = "find / -name binlog|grep -v usr" 
  38.     logdir_list = os.popen(conn).readlines() 
  39.     if len(logdir_list) != 0
  40.         for logdir in logdir_list: 
  41.             datadir = logdir.strip().split("/")[1
  42.             if "mysql_log" in logdir.strip(): 
  43.                 port = 3306 
  44.             else
  45.                 port = logdir.strip().split("/")[3].split("-")[-1
  46.             days = 3 
  47.             while 1
  48.                 conn = "find %s -mtime %s|sort" % (logdir.strip(),days) 
  49.                 count = os.popen(conn).readlines() 
  50.                 if len(count) != 0
  51.                     lastlog = count[-1].strip().split("/")[-1
  52.                     mysql_conn(port,lastlog,days) 
  53.  
  54.                 df = "df -h|grep -e '%s'|awk '{print5}'|awk -F '%%' '{print $1}'" % datadir 
  55.                 disk = os.popen(df).read().strip() 
  56.                 if not disk: 
  57.                     break 
  58.                 else
  59.                     if int(disk) < 80
  60.                         break 
  61.                     else
  62.                         days = days - 1 
  63.                         if days == 1
  64.                             break 
  65.     else
  66.         sys.exit() 
  67.  
  68. if __name__ == "__main__"
  69.     find_logdir() 

 


本文转自 lover00751CTO博客,原文链接:http://blog.51cto.com/wangwei007/1123088,如需转载请自行联系原作者


相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
打赏
0
0
0
0
348
分享
相关文章
ELK实现nginx、mysql、http的日志可视化实验
通过本文的步骤,你可以成功配置ELK(Elasticsearch, Logstash, Kibana)来实现nginx、mysql和http日志的可视化。通过Kibana,你可以直观地查看和分析日志数据,从而更好地监控和管理系统。希望这些步骤能帮助你在实际项目中有效地利用ELK来处理日志数据。
235 90
MySQL Binlog 日志查看方法及查看内容解析
本文介绍了 MySQL 的 Binlog(二进制日志)功能及其使用方法。Binlog 记录了数据库的所有数据变更操作,如 INSERT、UPDATE 和 DELETE,对数据恢复、主从复制和审计至关重要。文章详细说明了如何开启 Binlog 功能、查看当前日志文件及内容,并解析了常见的事件类型,包括 Format_desc、Query、Table_map、Write_rows、Update_rows 和 Delete_rows 等,帮助用户掌握数据库变化历史,提升维护和排障能力。
mysql的undo log、redo log、bin log、buffer pool
MySQL的undo log、redo log、bin log和buffer pool是确保数据库高效、安全和可靠运行的关键组件。理解这些组件的工作原理和作用,对于优化数据库性能和保障数据安全具有重要意义。通过适当的配置和优化,可以显著提升MySQL的运行效率和数据可靠性。
44 16
mysql的undo log、redo log、bin log、buffer pool
MySQL的undo log、redo log、bin log和buffer pool是确保数据库高效、安全和可靠运行的关键组件。理解这些组件的工作原理和作用,对于优化数据库性能和保障数据安全具有重要意义。通过适当的配置和优化,可以显著提升MySQL的运行效率和数据可靠性。
30 4
【YashanDB知识库】归档日志清理
本文介绍了YashanDB中手动清理归档日志时遇到的问题及解决方法。问题源于在归档日志未备份或未同步到备机时尝试删除,导致文件仍存在。解决方案是通过调整`ARCH_CLEAN_IGNORE_MODE`参数(如设置为BOTH模式)来忽略备份和备机限制,执行归档日志清理命令(如`ALTER DATABASE DELETE ARCHIVELOG`)。同时,注意YashanDB支持自动清理功能,可通过设置上下阈值避免磁盘空间不足。相关参数可用`show parameter clean`查看。
简单聊聊MySQL的三大日志(Redo Log、Binlog和Undo Log)各有什么区别
在MySQL数据库管理中,理解Redo Log(重做日志)、Binlog(二进制日志)和Undo Log(回滚日志)至关重要。Redo Log确保数据持久性和崩溃恢复;Binlog用于主从复制和数据恢复,记录逻辑操作;Undo Log支持事务的原子性和隔离性,实现回滚与MVCC。三者协同工作,保障事务ACID特性。文章还详细解析了日志写入流程及可能的异常情况,帮助深入理解数据库日志机制。
101 0
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
docker拉取MySQL后数据库连接失败解决方案
通过以上方法,可以解决Docker中拉取MySQL镜像后数据库连接失败的常见问题。关键步骤包括确保容器正确启动、配置正确的环境变量、合理设置网络和权限,以及检查主机防火墙设置等。通过逐步排查,可以快速定位并解决连接问题,确保MySQL服务的正常使用。
232 82
缓存与数据库的一致性方案,Redis与Mysql一致性方案,大厂P8的终极方案(图解+秒懂+史上最全)
缓存与数据库的一致性方案,Redis与Mysql一致性方案,大厂P8的终极方案(图解+秒懂+史上最全)

热门文章

最新文章