mysql 主从复制的 工作原理

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: mysql 主从复制原理主从形式 mysql主从复制 灵活一主一从主主复制一主多从---扩展系统读取的性能,因为读是在从库读取的;多主一从---5.7开始支持联级复制---  用途及条件 mysql主从复制用途实时灾备,用于故障切换读写分离,...

mysql 主从复制原理


主从形式


 

mysql主从复制 灵活

  • 一主一从

  • 主主复制

  • 一主多从---扩展系统读取的性能,因为读是在从库读取的;

  • 多主一从---5.7开始支持

  • 联级复制---

spacer.gif

 

 

用途及条件


 

mysql主从复制用途

  • 实时灾备,用于故障切换

  • 读写分离,提供查询服务

  • 备份,避免影响业务

 

主从部署必要条件:

  • 主库开启binlog日志(设置log-bin参数)

  • 主从server-id不同

  • 从库服务器能连通主库

 

主从原理


mysql主从复制原理

spacer.gif

 

 

从库生成两个线程,一个I/O线程,一个SQL线程;

 

i/o线程去请求主库 的binlog,并将得到的binlog日志写到relay log(中继日志) 文件中;

主库会生成一个 log dump 线程,用来给从库 i/o线程传binlog;

 

SQL 线程,会读取relay log文件中的日志,并解析成具体操作,来实现主从的操作一致,而最终数据一致;

 

问题及解决方法


 

mysql主从复制存在的问题:

  • 主库宕机后,数据可能丢失

  • 从库只有一个sql Thread,主库写压力大,复制很可能延时

 

解决方法:

  • 半同步复制---解决数据丢失的问题

  • 并行复制----解决从库复制延迟的问题

 

半同步复制


 

mysql semi-sync(半同步复制)

半同步复制:

  • 5.5集成到mysql,以插件的形式存在,需要单独安装

  • 确保事务提交后binlog至少传输到一个从库

  • 不保证从库应用完这个事务的binlog

  • 性能有一定的降低,响应时间会更长

  • 网络异常或从库宕机,卡主主库,直到超时或从库恢复

 

主从复制--异步复制原理

 

spacer.gif

半同步复制原理:

spacer.gif

 

 

并行复制


 

mysql并行复制

  • 社区版5.6中新增

  • 并行是指从库多线程apply binlog

  • 库级别并行应用binlog,同一个库数据更改还是串行的(5.7版并行复制基于事务组)

设置

set global slave_parallel_workers=10;

设置sql线程数为10

 

 

其他


 

部分数据复制

主库添加参数:

binlog_do_db=db1
binlog_ignore_db=db1
binlog_ignore_db=db2

或从库添加参数

replicate_do_db=db1
replicate_ignore_db=db1
replicate_do_table=db1.t1
replicate_wild_do_table=db%.%replicate_wild_ignore_table=db1.%

 

联级复制(常用)

A->B->C

B中添加参数:

log_slave_updates
B将把A的binlog记录到自己的binlog日志中

 

复制的监控:

show  slave status \G

 

复制出错处理

常见:1062(主键冲突),1032(记录不存在)

解决:

  • 手动处理

  • 跳过复制错误:set global sql_slave_skip_counter=1

 

 

 

总结


 

  • 主从形式


    • 一主一从

    • 一主多从--扩展系统读取性能

    • 多主一从--5.7开始支持

    • 主主复制

    • 联级复制

  • 用途:实时灾备的故障切换,读写分离,备份

  • 原理


    • i/o线程接受读取binlog,并写入relay log文件

    • sql线程从relay log 文件中读取binlog并持久化

    • 主:log dump线程传binlog;


  • 问题及解决


    • 并行复制

    • 半同步复制

    • 主库宕机后,数据丢失


    • 主库写压力大,因从库只有一个sql 线程来持久化,复制可能延迟


  • 半同步复制:


    • 事务在主库写完binlog后需要从库返回一个已接受,才放回给客户端;

    • 原理


    • 5.5集成到mysql,以插件的形式存在,需要单独安装

    • 确保事务提交后binlog至少传输到一个从库

    • 不保证从库应用完成这个事务的binlog

    • 性能有一定的降低

    • 网络异常或从库宕机,卡主库,直到超时或从库恢复

  • 并行复制


    • 原理:从库多线程apply binlog

    • 在社区5.6中新增

    • 库级别并行应用binlog,同一个库数据更改还是串行的

    • 5.7版本并行复制基于事务组

  • 部分数据复制

  • 联级复制(常用)


    • A->B->C

    • B中添加参数log_slave_updates

    • B将把A的binlog记录到自己的binlog日志中

  • 复制的监控


    • show slave status

  • 复制出错处理


    • 手动处理

    • 跳过复制错误:set global sql_slave_skip_counter=1

    • 常见:1062(主键冲突),1032(记录不存在)

    • 解决:


  • mysql主从复制是mysql高可用性,高性能(负载均衡)的基础

  • 简单,灵活,部署方式多样,可以根据不同业务场景部署不同复制结构

  • 复制过程中应该时刻监控复制状态,复制出错或延时可能给系统造成影响

  • mysql主从复制目前也存在一些问题,可以根据需要部署复制增强功能


相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
打赏
0
0
0
0
35
分享
相关文章
MySQL实现文档全文搜索,分词匹配多段落重排展示,知识库搜索原理分享
本文介绍了在文档管理系统中实现高效全文搜索的方案。为解决原有ES搜索引擎私有化部署复杂、运维成本高的问题,我们转而使用MySQL实现搜索功能。通过对用户输入预处理、数据库模糊匹配、结果分段与关键字标红等步骤,实现了精准且高效的搜索效果。目前方案适用于中小企业,未来将根据需求优化并可能重新引入专业搜索引擎以提升性能。
108 5
MySQL原理简介—6.简单的生产优化案例
本文介绍了数据库和存储系统的几个主题: 1. **MySQL日志的顺序写和数据文件的随机读指标**:解释了磁盘随机读和顺序写的原理及对数据库性能的影响。 2. **Linux存储系统软件层原理及IO调度优化原理**:解析了Linux存储系统的分层架构,包括VFS、Page Cache、IO调度等,并推荐使用deadline算法优化IO调度。 3. **数据库服务器使用的RAID存储架构**:介绍了RAID技术的基本概念及其如何通过多磁盘阵列提高存储容量和数据冗余性。 4. **数据库Too many connections故障定位**:分析了MySQL连接数限制问题的原因及解决方法。
113 23
MySQL原理简介—3.生产环境的部署压测
本文介绍了Java系统和数据库在高并发场景下的压测要点: 1. 普通系统在4核8G机器上每秒能处理几百个请求 2. 高并发下数据库建议使用8核16G或更高配置的机器 3. 数据库部署后需进行基准压测,以评估其最大承载能力 4. QPS和TPS的区别及重要性 5. 压测时需关注IOPS、吞吐量、延迟 6. 除了QPS和TPS,还需监控CPU、内存、磁盘IO、网络带宽 7. 影响每秒可处理并发请求数的因素包括线程数、CPU、内存、磁盘IO和网络带宽 8. Sysbench是数据库压测工具,可构造测试数据并模拟高并发场景 9. 在增加线程数量的同时,必须观察机器的性能,确保各硬件负载在合理范围
168 72
MySQL原理简介—1.SQL的执行流程
本文介绍了MySQL驱动、数据库连接池及SQL执行流程的关键组件和作用。主要内容包括:MySQL驱动用于建立Java系统与数据库的网络连接;数据库连接池提高多线程并发访问效率;MySQL中的连接池维护多个数据库连接并进行权限验证;网络连接由线程处理,监听请求并读取数据;SQL接口负责执行SQL语句;查询解析器将SQL语句解析为可执行逻辑;查询优化器选择最优查询路径;存储引擎接口负责实际的数据操作;执行器根据优化后的执行计划调用存储引擎接口完成SQL语句的执行。整个流程确保了高效、安全地处理SQL请求。
274 76
RDS用多了,你还知道MySQL主从复制底层原理和实现方案吗?
随着数据量增长和业务扩展,单个数据库难以满足需求,需调整为集群模式以实现负载均衡和读写分离。MySQL主从复制是常见的高可用架构,通过binlog日志同步数据,确保主从数据一致性。本文详细介绍MySQL主从复制原理及配置步骤,包括一主二从集群的搭建过程,帮助读者实现稳定可靠的数据库高可用架构。
159 9
RDS用多了,你还知道MySQL主从复制底层原理和实现方案吗?
MySQL原理简介—9.MySQL索引原理
本文详细介绍了MySQL索引的设计与使用原则,涵盖磁盘数据页的存储结构、页分裂机制、主键索引设计及查询过程、聚簇索引和二级索引的原理、B+树索引的维护、联合索引的使用规则、SQL排序和分组时如何利用索引、回表查询对性能的影响以及索引覆盖的概念。此外还讨论了索引设计的案例,包括如何处理where筛选和order by排序之间的冲突、低基数字段的处理方式、范围查询字段的位置安排,以及通过辅助索引来优化特定查询场景。总结了设计索引的原则,如尽量包含where、order by、group by中的字段,选择离散度高的字段作为索引,限制索引数量,并针对频繁查询的低基数字段进行特殊处理等。
136 18
MySQL原理简介—9.MySQL索引原理
MySQL底层概述—6.索引原理
本文详细回顾了:索引原理、二叉查找树、平衡二叉树(AVL树)、红黑树、B-Tree、B+Tree、Hash索引、聚簇索引与非聚簇索引。
129 11
MySQL底层概述—6.索引原理
MySQL原理简介—12.MySQL主从同步
本文介绍了四种为MySQL搭建主从复制架构的方法:异步复制、半同步复制、GTID复制和并行复制。异步复制通过配置主库和从库实现简单的主从架构,但存在数据丢失风险;半同步复制确保日志复制到从库后再提交事务,提高了数据安全性;GTID复制简化了配置过程,增强了复制的可靠性和管理性;并行复制通过多线程技术降低主从同步延迟,保证数据一致性。此外,还讨论了如何使用工具监控主从延迟及应对策略,如强制读主库以确保即时读取最新数据。
MySQL原理简介—12.MySQL主从同步
MySQL原理简介—7.redo日志的底层原理
本文介绍了MySQL中redo日志和undo日志的主要内容: 1. redo日志的意义:确保事务提交后数据不丢失,通过记录修改操作并在系统宕机后重做日志恢复数据。 2. redo日志文件构成:记录表空间号、数据页号、偏移量及修改内容。 3. redo日志写入机制:redo日志先写入Redo Log Buffer,再批量刷入磁盘文件,减少随机写以提高性能。 4. Redo Log Buffer解析:描述Redo Log Buffer的内存结构及刷盘时机,如事务提交、Buffer过半或后台线程定时刷新。 5. undo日志原理:用于事务回滚,记录插入、删除和更新前的数据状态,确保事务可完整回滚。
178 22
MySQL原理简介—8.MySQL并发事务处理
这段内容深入探讨了SQL语句执行原理、事务并发问题、MySQL事务隔离级别及其实现机制、锁机制以及数据库性能优化等多个方面。
106 13

热门文章

最新文章

AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等