101个MySQL调试和优化技巧

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介:

文章出自http://letong.me/mysql_optimization.html


MySQL 服务器硬件和操作系统调节:

1. 拥有足够的物理内存来把整个InnoDB文件加载到内存中——在内存中访问文件时的速度要比在硬盘中访问时快的多。

2. 不惜一切代价避免使用Swap交换分区 – 交换时是从硬盘读取的,它的速度很慢。

3. 使用电池供电的内存。

4. 使用高级的RAID – 最好是RAID10或更高。

5. 避免RAID5 – 确保数据库完整性的校验是要付出代价的。

6. 将操作系统和数据分区分开,不仅仅是逻辑上,还包括物理上 – 操作系统的读写操作会影响数据库的性能。

7. 把MySQL临时空间和复制日志与数据放到不同的分区 – 当数据库后台从磁盘进行读写操作时会影响数据库的性能。

8. 更多的磁盘空间等于更快的速度。

9. 更好更快的磁盘。

10. 使用 SAS 磁盘代替 SATA 磁盘。

11. 较小的硬盘比较大的硬盘快,尤其是在RAID配置的情况下。

12. 使用电池支持的高速缓存RAID控制器。

13. 避免使用软件磁盘阵列。

14. 考虑为数据分区使用固态IO卡 (不是磁盘驱动器)  – 这些卡能够为几乎任何数量的数据支持2GB/s的写入速度。

15. 在Linux中设置swappiness的值为0 – 在数据库服务器中没有理由缓存文件,这是一个服务器或台式机的优势。

16. 如果可以的话,使用  noatime 和 nodirtime 挂载文件系统 – 没有理由更新访问数据库文件的修改时间。

17. 使用 XFS 文件系统 – 一种比ext3更快、更小的文件系统,并且有许多日志选项, 而且ext3 已被证实与MySQL有双缓冲问题。

18. 调整 XFS 文件系统日志和缓冲变量 – 为了最高性能标准。

19. 在 Linux 系统中, 使用 NOOP 或者 DEADLINE IO 定时调度程序 – 同 NOOP 和 DEADLINE定时调度程序相比,这个 CFQ 和 ANTICIPATORY 定时调度程序 显得非常慢。

20. 使用64位的操作系统 – 对于MySQL,会有更大的内存支持和使用。

21. 删除服务器上未使用的安装包和守护进程 – 更少的资源占用。

22. 把使用MySQL的host和你的MySQL host放到一个hosts文件中 – 没有DNS查找。

23. 切勿强制杀死一个MySQL进程 – 你会损坏数据库和正在运行备份的程序。

24. 把服务器贡献给MySQL – 后台进程和其他服务能够缩短数据库占用CPU的时间。

MySQL 配置:

25. 当写入时,使用 innodb_flush_method=O_DIRECT 来避免双缓冲。

26. 避免使用 O_DIRECT 和 EXT3 文件系统 – 你将序列化所有要写入的。

27. 分配足够的 innodb_buffer_pool_size 来加载整个 InnoDB 文件到内存中– 少从磁盘中读取。

28. 不要将 innodb_log_file_size 参数设置太大, 这样可以更快同时有更多的磁盘空间 – 丢掉多的日志通常是好的,在数据库崩溃后可以降低恢复数据库的时间。

29. 不要混用 innodb_thread_concurrency 和 thread_concurrency 参数– 这2个值是不兼容的。

30. 分配一个极小的数量给 max_connections 参数 – 太多的连接会用尽RAM并锁定MySQL服务。

31. 保持 thread_cache 在一个相对较高的数字,大约 16 – 防止打开连接时缓慢。

32. 使用skip-name-resolve参数 – 去掉 DNS 查找。

33.如果你的查询都是重复的,并且数据不常常发生变化,那么可以使用查询缓存。但是如果你的数据经常发生变化,那么使用查询缓存会让你感到失望。

34.增大temp_table_size值,以防止写入磁盘

35.增大max_heap_table_size值,以防止写入磁盘

36.不要把sort_buffer_size值设置的太高,否则的话你的内存将会很快耗尽

37.根据key_read_requests和key_reads值来决定key_buffer的大小,一般情况下key_read_requests应该比key_reads值高,否则你不能高效的使用key_buffer

38.将innodb_flush_log_at_trx_commit设置为0将会提高性能,但是如果你要保持默认值(1)的话,那么你就要确保数据的完整性,同时你也要确保复制不会滞后。

39.你要有一个测试环境,来测试你的配置,并且在不影响正常生产的情况下,可以常常进行重启。

MySQL模式优化:

40. 保持你的数据库整理性。

41. 旧数据归档 – 删除多余的行返回或搜索查询。

42. 将您的数据加上索引.

43. 不要过度使用索引,比较与查询.

44. 压缩文字和BLOB数据类型 – 以节省空间和减少磁盘读取次数.

45. UTF 8和UTF16都低于latin1执行效率.

46. 有节制地使用触发器.

47. 冗余数据保持到最低限度 – 不重复不必要的数据.

48. 使用链接表,而不是扩展行.

49. 注意数据类型,在您的真实数据中,尽可能使用最小的一个.

50. 如果其他数据经常被用于查询时,而BLOB / TEXT数据不是,就把BLOB / TEXT数据从其他数据分离出来.

51.检查和经常优化表.

52. 经常重写InnoDB表优化.

53. 有时,当添加列时删除索引,然后在添加回来索引,这样就会更快.

54. 针对不同的需求,使用不同的存储引擎.

55. 使用归档存储引擎日志表或审计表-这是更有效地写道.

56.  会话数据存储在缓存(memcache)的而不是MySQL中 – 缓存允许自动自动填值的,并阻止您创建难以读取和写入到MySQL的时空数据.

57.存储可变长度的字符串时使用VARCHAR而不是CHAR – 节省空间,因为固定长度的CHAR,而VARCHAR长度不固定(UTF8不受此影响).

58. 逐步进行模式的变化 – 一个小的变化,可以有巨大的影响.

59.在开发环境中测试所有模式,反映生产变化.

60. 不要随意更改你的配置文件中的值,它可以产生灾难性的影响.

61. 有时候,在MySQL的configs少即是多.

62. 有疑问时使用一个通用的MySQL配置文件.

MySQL metrics widget

查询优化:

63. 使用慢查询日志去发现慢查询。

64. 使用执行计划去判断查询是否正常运行。

65. 总是去测试你的查询看看是否他们运行在最佳状态下 –久而久之性能总会变化。

66. 避免在整个表上使用count(*),它可能锁住整张表。

67. 使查询保持一致以便后续相似的查询可以使用查询缓存。

68. 在适当的情形下使用GROUP BY而不是DISTINCT。

69. 在WHERE, GROUP BY和ORDER BY子句中使用有索引的列。

70. 保持索引简单,不在多个索引中包含同一个列。

71. 有时候MySQL会使用错误的索引,对于这种情况使用USE INDEX。

72. 检查使用SQL_MODE=STRICT的问题。

73. 对于记录数小于5的索引字段,在UNION的时候使用LIMIT不是是用OR.

74. 为了 避免在更新前SELECT,使用INSERT ON DUPLICATE KEY或者INSERT IGNORE ,不要用UPDATE去实现。

75. 不要使用 MAX,使用索引字段和ORDER BY子句。

76. 避免使用ORDER BY RAND().

77. LIMIT M,N实际上可以减缓查询在某些情况下,有节制地使用。

78. 在WHERE子句中使用UNION代替子查询。

79. 对于UPDATES(更新),使用 SHARE MODE(共享模式),以防止独占锁。

80. 在重新启动的MySQL,记得来温暖你的数据库,以确保您的数据在内存和查询速度快。

81. 使用DROP TABLE,CREATE TABLE DELETE FROM从表中删除所有数据。

82. 最小化的数据在查询你需要的数据,使用*消耗大量的时间。

83. 考虑持久连接,而不是多个连接,以减少开销。

84. 基准查询,包括使用服务器上的负载,有时一个简单的查询可以影响其他查询。

85. 当负载增加您的服务器上,使用SHOW PROCESSLIST查看慢的和有问题的查询。

86. 在开发环境中产生的镜像数据中 测试的所有可疑的查询。

MySQL 备份过程:

87. 从二级复制服务器上进行备份。

88. 在进行备份期间停止复制,以避免在数据依赖和外键约束上出现不一致。

89. 彻底停止MySQL,从数据库文件进行备份。

90. 如果使用 MySQL dump进行备份,请同时备份二进制日志文件 – 确保复制没有中断。

91. 不要信任LVM 快照 – 这很可能产生数据不一致,将来会给你带来麻烦。

92. 为了更容易进行单表恢复,以表为单位导出数据 – 如果数据是与其他表隔离的。

93. 当使用mysqldump时请使用 –opt。

94. 在备份之前检查和优化表。

95. 为了更快的进行导入,在导入时临时禁用外键约束。

96. 为了更快的进行导入,在导入时临时禁用唯一性检测。

97. 在每一次备份后计算数据库,表以及索引的尺寸,以便更够监控数据尺寸的增长。

98. 通过自动调度脚本监控复制实例的错误和延迟。

99. 定期执行备份。

100. 定期测试你的备份。

101: 执行MySQL 监控。


相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
MySQL细节优化:关闭大小写敏感功能的方法。
通过这种方法,你就可以成功关闭 MySQL 的大小写敏感功能,让你的数据库操作更加便捷。
97 19
基于SQL Server / MySQL进行百万条数据过滤优化方案
对百万级别数据进行高效过滤查询,需要综合使用索引、查询优化、表分区、统计信息和视图等技术手段。通过合理的数据库设计和查询优化,可以显著提升查询性能,确保系统的高效稳定运行。
82 9
图解MySQL【日志】——磁盘 I/O 次数过高时优化的办法
当 MySQL 磁盘 I/O 次数过高时,可通过调整参数优化。控制刷盘时机以降低频率:组提交参数 `binlog_group_commit_sync_delay` 和 `binlog_group_commit_sync_no_delay_count` 调整等待时间和事务数量;`sync_binlog=N` 设置 write 和 fsync 频率,`innodb_flush_log_at_trx_commit=2` 使提交时只写入 Redo Log 文件,由 OS 择机持久化,但两者在 OS 崩溃时有丢失数据风险。
77 3
MySQL和SQLSugar百万条数据查询分页优化
在面对百万条数据的查询时,优化MySQL和SQLSugar的分页性能是非常重要的。通过合理使用索引、调整查询语句、使用缓存以及采用高效的分页策略,可以显著提高查询效率。本文介绍的技巧和方法,可以为开发人员在数据处理和查询优化中提供有效的指导,提升系统的性能和用户体验。掌握这些技巧后,您可以在处理海量数据时更加游刃有余。
218 9
MySQL底层概述—8.JOIN排序索引优化
本文主要介绍了MySQL中几种关键的优化技术和概念,包括Join算法原理、IN和EXISTS函数的使用场景、索引排序与额外排序(Using filesort)的区别及优化方法、以及单表和多表查询的索引优化策略。
151 22
MySQL底层概述—8.JOIN排序索引优化
MySQL底层概述—7.优化原则及慢查询
本文主要介绍了:Explain概述、Explain详解、索引优化数据准备、索引优化原则详解、慢查询设置与测试、慢查询SQL优化思路
169 15
MySQL底层概述—7.优化原则及慢查询
MySQL底层概述—5.InnoDB参数优化
本文介绍了MySQL数据库中与内存、日志和IO线程相关的参数优化,旨在提升数据库性能。主要内容包括: 1. 内存相关参数优化:缓冲池内存大小配置、配置多个Buffer Pool实例、Chunk大小配置、InnoDB缓存性能评估、Page管理相关参数、Change Buffer相关参数优化。 2. 日志相关参数优化:日志缓冲区配置、日志文件参数优化。 3. IO线程相关参数优化: 查询缓存参数、脏页刷盘参数、LRU链表参数、脏页刷盘相关参数。
130 12
MySQL底层概述—5.InnoDB参数优化
MySQL原理简介—11.优化案例介绍
本文介绍了四个SQL性能优化案例,涵盖不同场景下的问题分析与解决方案: 1. 禁止或改写SQL避免自动半连接优化。 2. 指定索引避免按聚簇索引全表扫描大表。 3. 按聚簇索引扫描小表减少回表次数。 4. 避免产生长事务长时间执行。
从MySQL优化到脑力健康:技术人与效率的双重提升
聊到效率这个事,大家应该都挺有感触的吧。 不管是技术优化还是个人状态调整,怎么能更快、更省力地完成事情,都是我们每天要琢磨的事。
80 23
MySQL原理简介—6.简单的生产优化案例
本文介绍了数据库和存储系统的几个主题: 1. **MySQL日志的顺序写和数据文件的随机读指标**:解释了磁盘随机读和顺序写的原理及对数据库性能的影响。 2. **Linux存储系统软件层原理及IO调度优化原理**:解析了Linux存储系统的分层架构,包括VFS、Page Cache、IO调度等,并推荐使用deadline算法优化IO调度。 3. **数据库服务器使用的RAID存储架构**:介绍了RAID技术的基本概念及其如何通过多磁盘阵列提高存储容量和数据冗余性。 4. **数据库Too many connections故障定位**:分析了MySQL连接数限制问题的原因及解决方法。
115 23
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等