MySQL架构优化实战系列3:定时计划任务与表分区

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
云数据库 RDS MySQL Serverless,价值2615元额度,1个月
简介:

 

定时计划任务


1、概论


mysql计划任务可以定时更新数据库表或者做大文件的汇总表。


2、配置


  • 开启计划任务


SHOW VARIABLES LIKE 'event_scheduler' 查看是否开启 off 表示未开启

set global event_scheduler =1 此次重启之后的mysql器件生效


20160711105135436.jpg

永久生效


20160711105122668.png 

可见已经开启


3、语法体


20160711105152413.jpg


4、周期或者时间点语法


  • 每1秒执行

on schedule every 1 second


  • 10天后执行

on schedule at current_timestamp + interval 10 day


  • 指定日期时间执行

on schedule at timestamp '2016-08-16 00:00:00'


  • 每天凌晨3点执行

on schedule every 1 day 
starts '2016-05-18 03:00:00' (设定从第二天凌晨3点开始)


  • 每天定时执行,5天后停止执行

on schedule every 1 day 
ends current_timestamp + interval 5 day


  • 5天后开启每天定时清空test表,一个月后停止执行

on schedule every 1 day
starts current_timestamp + interval 5 day
ends current_timestamp + interval 1 month


5、高级用法


  • 执行多条sql


20160711105159683.jpg


  • 临时关闭事件

alter event smudge_insert disable;


  • 临时开启事件

alter event smudge_insert enable;


  • 删除计划任务

drop event smudge_insert;


 

表分区


单张表超过1000W行已经算作是大数据存储场景。


常规海量数据优化:大表拆小表、sql语句优化,下面我们重点介绍大表拆小表的优化。


1、拆表方式


  • 水平拆表


将表user中的1000w行数据拆成user1表和user2表,每张表500w行数据
但是这样做法就是导致sql语句需要更改为 select user1,user2 ...
拆的越多,sql语句越长,所以不推荐此法拆表


  • 垂直分表


如将user表100个字段拆成表user_base(30字段)、表user_extend(20字段)

sql语句优化成 ... user_base left join user_extend on user_base.id = user_extend.id..


  • 表分区

对行水平进行分表,物理存储上分区存储,每个分表有独立的文件,应用程序上还是一张表。


Range(范围)–这种模式允许将数据划分不同范围。例如可以将一个表通过年份划分成若干个分区。


  • Hash(哈希)–这中模式允许通过对表的一个或多个列的Hash Key进行计算,最后通过这个Hash码不同数值对应的数据区域进行分区。例如可以建立一个对表主键进行分区的表。

  • Key(键值)-上面Hash模式的一种延伸,这里的Hash Key是MySQL系统产生的。

  • List(预定义列表)–这种模式允许系统通过预定义的列表的值来对数据进行分割。


2、基于range分区


基于给定连续的区间的值对行进行分区。


  • 新建表user 基于salary区间进行表分区


以字段salary为准 按照区间 [0,1000] [1000,3000] [3000,..] 将表分三个区


20160711105209415.jpg


对已有的表创建分区


   20160711105218112.jpg


  • 可能遇到的错误


20160711105225758.jpg


这里的提示已经很明确了,分区的列必须是个主键列。所以我们给salary添加主键。


  • 查看现在数据库文件


[root@localhost smudge]# cd /usr/local/mysql/var


20160711105232790.jpg


  • 插入数据测试


20160711105238539.jpg


20160711105245431.jpg


可以插入更多的数据,观察分区文件的大小。


使用 watch -n1 ls -lh 每秒监测文件大小的变化:


20160711105254671.jpg


3、基于list分区


  • 分区语句


以area_id列为准, 按照华南和华北 将表分成两个区


 20160711105302973.jpg


  • 表文件


20160711105309222.jpg


4、基于hash分区


常用于对主键的快速分区


  • 分区语句


以主键id为准,hash算法将表平均分成4个区


 20160711105318119.jpg


  • 表文件


20160711105325148.jpg


5、基于key分区


  • 建表分区


和hash分区类似将表分成4个区


20160711105332268.jpg


  • 添加分区


20160711105340511.jpg


  • 表文件


20160711105346723.jpg


6、对于Innodb引擎表的分区


  • Innodb表默认是共享存储空间


默认my.cnf文件


20160711105354506.jpg


默认情况下Innodb是使用的共享表空间


当在库smudge中, 新建一张Innodb引擎的shop表


cd usr/local/mysql/var/smudge


20160711105400582.jpg


只有一个文件 shop.frm


20160711105407404.jpg


shop表的索引和数据都存在ibdata1文件中,共享存储空间的Innodb不可以分区!


所以我们要将Innodb表设置成独立表空间,索引和数据都存放在ibd文件中。


  • 设置成独立表空间


添加一行 innodb_file_per_table


20160711105413267.jpg


service mysql restart 重启mysql服务


  • 添加表分区


20160711105421523.jpg


  • 查看表文件


20160711105426334.jpg


可见分区成功了。


本文来自云栖社区合作伙伴"DBAplus",原文发布时间:2016-07-08

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
9天前
|
SQL 存储 关系型数据库
不允许你不知道的 MySQL 优化实战(三)
不允许你不知道的 MySQL 优化实战(三)
14 1
|
13天前
|
关系型数据库 MySQL
【MySQL实战笔记】07 | 行锁功过:怎么减少行锁对性能的影响?-01
【4月更文挑战第18天】MySQL的InnoDB引擎支持行锁,而MyISAM只支持表锁。行锁在事务开始时添加,事务结束时释放,遵循两阶段锁协议。为减少锁冲突影响并发,应将可能导致最大冲突的锁操作放在事务最后。例如,在电影票交易中,应将更新影院账户余额的操作安排在事务末尾,以缩短锁住关键行的时间,提高系统并发性能。
14 4
|
14天前
|
关系型数据库 MySQL 数据库
【MySQL实战笔记】 06 | 全局锁和表锁 :给表加个字段怎么有这么多阻碍?-01
【4月更文挑战第17天】MySQL的锁分为全局锁、表级锁和行锁。全局锁用于全库备份,可能导致业务暂停或主从延迟。不加锁备份会导致逻辑不一致。推荐使用`FTWRL`而非`readonly=true`因后者可能影响其他逻辑且异常处理不同。表级锁如`lock tables`限制读写并限定操作对象,常用于并发控制。元数据锁(MDL)在访问表时自动加锁,确保读写正确性。
65 31
|
9天前
|
SQL 关系型数据库 MySQL
不允许你不知道的 MySQL 优化实战(二)
不允许你不知道的 MySQL 优化实战(二)
16 2
|
4天前
|
设计模式 容灾 关系型数据库
MySQL 主从复制架构
MySQL 主从复制架构
|
4天前
|
缓存 关系型数据库 MySQL
MySQL数据库性能优化实战
【4月更文挑战第30天】本文探讨了MySQL性能优化实战技巧,包括硬件与配置优化(如使用SSD、增加内存和调整配置参数)、索引优化(创建合适索引、使用复合索引及定期维护)、查询优化(避免全表扫描、减少JOIN和使用LIMIT)、分区与分片(表分区和数据库分片),以及使用缓存、定期清理数据库和监控诊断。通过这些方法,可以提升数据库性能和响应速度。
|
5天前
|
安全 Java 数据安全/隐私保护
Spring Boot优雅实现多租户架构:概念与实战
【4月更文挑战第29天】在多租户系统中,一个应用实例服务于多个租户,每个租户享有独立的数据视图,而应用的基础设施被共享。这样的架构不仅优化了资源使用,还能降低维护和运营成本。本文将详细介绍如何在Spring Boot中实现多租户架构,并提供具体的实战案例。
27 2
|
6天前
|
存储 关系型数据库 MySQL
MySQL数据库实战:从入门到精通
本文介绍了MySQL的使用和优化,适合Web开发者阅读。首先,确保安装并配置好MySQL,熟悉SQL基础。接着,通过命令行客户端连接数据库,执行创建、查询、添加、修改和删除数据等操作。学习数据类型并创建表存储数据。最后,探讨了数据库优化,包括查询优化和索引使用,以提升性能。
15 2
|
8天前
|
安全 关系型数据库 MySQL
node实战——后端koa结合jwt连接mysql实现权限登录(node后端就业储备知识)
node实战——后端koa结合jwt连接mysql实现权限登录(node后端就业储备知识)
19 3
|
9天前
|
SQL 关系型数据库 MySQL
不允许你不知道的 MySQL 优化实战(一)
不允许你不知道的 MySQL 优化实战(一)
15 2