[MySQL学习] Innodb change buffer(1)之初识篇

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,高可用系列 2核4GB
简介:

从MySQL5.5版本开始,Insert buffer更名为change buffer,除了缓冲对二级索引的insert操作,还包括update/delete/后台purge操作,由参数innodb_change_buffering来控制。因此这里统一称为change buffer。

//////////////////////////////////////////////////////////

当更新/插入的非聚集索引的数据所对应的页不在内存中时(对非聚集索引的更新操作通常会带来随机IO),会将其放到一个insert buffer中,当随后页面被读到内存中时,会将这些变化的记录merge到页中。当服务器比较空闲时,后台线程也会做merge操作

但change buffer会占用buffer pool,并且在非聚集索引很少时,并不总是必要的,反而会降低buffer pool做data cache的能力。

change buffer只作用于二级索引的叶子节点,并且无法处理可能导致索引分裂或合并的操作。

另外和5.1有所不同的是,由于5.5引入了更多buffer的操作,因此需要在ibuf中保证对一个page的操作是有序的。

当文件页在buffer pool中时,就直接操作文件页,而不会去考虑ibuf;当文件页从磁盘读入内存时,总会去尝试做Merge。

在表空间中,有ibuf bitmap来跟踪记录每个Page空闲空间的范围,以避免Page溢出或被清空。

在FSP_HDR页随后是ibuf_bitmap页,其中FSP_HDR在表空间的第一个Page上。每个FSP_HDR只能管理256 个extent的信息(也就是16384个Page),因此每隔16384个page,会有一个类似FSP_HDR的Page来描述随后的extend信息,相应的每个ibuf_bitmap也可以管理16384个page,每个page的空闲空间用一个字节来表示。

从Jeremy Cole大神博客上扣的图:

另外,change buffer的数据实际上是在系统表空间ibdata中,对应的内部系统表名为SYS_IBUF_TABLE。因此change buffer也会存储到磁盘。

其中,ibdata的第4个page(FSP_IBUF_HEADER_PAGE_NO)存储了ibuf数的SEGEMENT信息。

第5个page(FSP_IBUF_TREE_ROOT_PAGE_NO)是ibuf树的根节点。

在Percona版本的5.5中,有几个参数来控制change buffer的行为:

innodb_change_buffering

取值包括all/none/inserts/deletes/changes/purges

其中deletes包括了delete和update操作(二级索引的update是

标记删除旧记录,再插入新记录).

innodb_ibuf_accel_rate

默认值为100,用于控制做change buffer merge的page数量

一般作为ibuf_contract_for_n_pages函数的第二个参数

是宏PCT_IBUF_IO,定义如下:

#define PCT_IBUF_IO(pct) ((ulint) (srv_io_capacity 

                * srv_ibuf_accel_rate * ((double) pct / 10000.0)))

如果想加快ibuf merge,可以调大这个参数

innodb_ibuf_active_contract

BOOL类型,默认值为0;

如果在执行ibuf_insert_low时,写入ibuf记录导致ibuf tree分裂,

会去调用ibuf_contract_after_insert对Ibuf进行Merge。

默认值为0表示,如果当前ibuf的大小没有超过最大值,则不做Merge

设置为1则表示,每次出现ibuf tree分裂,都要去merge ibuf.

innodb_ibuf_max_size

change buffer的占buffer pool内存的最大值,默认为二分之一的

buffer pool大小。这是只读变量;如果使用change buffer,一定要

考虑这个值是否合适;


有一些变量可以来监控change buffer的运行状态(内部变量见函数ibuf_export_ibuf_status):

Innodb_ibuf_discarded_delete_marks

对应ibuf->n_discarded_ops[IBUF_OP_DELETE_MARK]

抛弃的delete mark操作次数

Innodb_ibuf_discarded_deletes

ibuf->n_discarded_ops[IBUF_OP_DELETE]

抛弃的purge delete记录次数

Innodb_ibuf_discarded_inserts

ibuf->n_discarded_ops[IBUF_OP_INSERT]

抛弃的insert操作次数

Innodb_ibuf_free_list

对应ibuf->free_list_len,表示ibuf树的空闲链表长度,

Innodb_ibuf_merged_delete_marks

ibuf->n_merged_ops[IBUF_OP_DELETE_MARK] 

合并delete mark操作的次数

Innodb_ibuf_merged_deletes

ibuf->n_merged_ops[IBUF_OP_DELETE]

合并Purge操作的次数

Innodb_ibuf_merged_inserts

ibuf->n_merged_ops[IBUF_OP_INSERT]

合并INSERT操作的次数

Innodb_ibuf_merges

ibuf->n_merges

总的合并次数

Innodb_ibuf_segment_size

ibuf->seg_size 包含ibuf header页和ibuf tree的segment的Page数

Innodb_ibuf_size

ibuf->size  表示Ibuf 索引树的page数

其中

ibuf->size = ibuf->seg_size – (1 + ibuf->free_list_len)

ibuf->free_list_len = flst_get_len(root + PAGE_HEADER+ PAGE_BTR_IBUF_FREE_LIST, mtr);  //root为ibuf树的根页面

ibuf是一个全局变量,也是change buffer的控制结构体,其对应的结构体类型为ibuf_struct,可以看到其中大部分记录的都是计数,用于追踪ibuf树

当前的状态,以内内存changebuffer操作的计数,除了上面提到的几个结构体成员外,还有:

ibook empty;   //当为TRUE时,表示ibuf树为空,该变量由ibuf根页面的page latch保护。

ulint height;     //ibuf树的高度

dict_index_t* index;  //ibuf数上的索引结构体。


另外show engine innodb status也会打印一些相关信息:

————————————-

INSERT BUFFER AND ADAPTIVE HASH INDEX

————————————-

Ibuf: size 1, free list len 1886, seg size 1888, 7176 merges

merged operations:

 insert 9747, delete mark 18295, delete 13183

discarded operations:

 insert 0, delete mark 0, delete 0

这些值和上面提到的几个status值也是对应的。


相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
打赏
0
0
0
0
10011
分享
相关文章
MySQL底层概述—2.InnoDB磁盘结构
InnoDB磁盘结构主要包括表空间(Tablespaces)、数据字典(Data Dictionary)、双写缓冲区(Double Write Buffer)、重做日志(redo log)和撤销日志(undo log)。其中,表空间分为系统、独立、通用、Undo及临时表空间,分别用于存储不同类型的数据。数据字典从MySQL 8.0起不再依赖.frm文件,转而使用InnoDB引擎存储,支持事务原子性DDL操作。
241 100
MySQL底层概述—2.InnoDB磁盘结构
MySQL底层概述—1.InnoDB内存结构
本文介绍了InnoDB引擎的关键组件和机制,包括引擎架构、Buffer Pool、Page管理机制、Change Buffer、Log Buffer及Adaptive Hash Index。
246 97
MySQL底层概述—1.InnoDB内存结构
MySQL底层概述—10.InnoDB锁机制
本文介绍了:锁概述、锁分类、全局锁实战、表级锁(偏读)实战、行级锁升级表级锁实战、间隙锁实战、临键锁实战、幻读演示和解决、行级锁(偏写)优化建议、乐观锁实战、行锁原理分析、死锁与解决方案
113 24
MySQL底层概述—10.InnoDB锁机制
MySQL底层概述—5.InnoDB参数优化
本文介绍了MySQL数据库中与内存、日志和IO线程相关的参数优化,旨在提升数据库性能。主要内容包括: 1. 内存相关参数优化:缓冲池内存大小配置、配置多个Buffer Pool实例、Chunk大小配置、InnoDB缓存性能评估、Page管理相关参数、Change Buffer相关参数优化。 2. 日志相关参数优化:日志缓冲区配置、日志文件参数优化。 3. IO线程相关参数优化: 查询缓存参数、脏页刷盘参数、LRU链表参数、脏页刷盘相关参数。
MySQL底层概述—5.InnoDB参数优化
MySQL底层概述—4.InnoDB数据文件
本文介绍了InnoDB表空间文件结构及其组成部分,包括表空间、段、区、页和行。表空间是最高逻辑层,包含多个段;段由若干个区组成,每个区包含64个连续的页,页用于存储多条行记录。文章还详细解析了Page结构,分为通用部分(文件头与文件尾)、数据记录部分和页目录部分。此外,文中探讨了行记录格式,包括四种行格式(Redundant、Compact、Dynamic和Compressed),重点介绍了Compact行记录格式及其溢出机制。最后,文章解释了不同行格式的特点及应用场景,帮助理解InnoDB存储引擎的工作原理。
MySQL底层概述—4.InnoDB数据文件
MySQL底层概述—3.InnoDB线程模型
InnoDB存储引擎采用多线程模型,包含多个后台线程以处理不同任务。主要线程包括:IO Thread负责读写数据页和日志;Purge Thread回收已提交事务的undo日志;Page Cleaner Thread刷新脏页并清理redo日志;Master Thread调度其他线程,定时刷新脏页、回收undo日志、写入redo日志和合并写缓冲。各线程协同工作,确保数据一致性和高效性能。
MySQL底层概述—3.InnoDB线程模型
MySQL原理简介—2.InnoDB架构原理和执行流程
本文介绍了MySQL中更新语句的执行流程及其背后的机制,主要包括: 1. **更新语句的执行流程**:从SQL解析到执行器调用InnoDB存储引擎接口。 2. **Buffer Pool缓冲池**:缓存磁盘数据,减少磁盘I/O。 3. **Undo日志**:记录更新前的数据,支持事务回滚。 4. **Redo日志**:确保事务持久性,防止宕机导致的数据丢失。 5. **Binlog日志**:记录逻辑操作,用于数据恢复和主从复制。 6. **事务提交机制**:包括redo日志和binlog日志的刷盘策略,确保数据一致性。 7. **后台IO线程**:将内存中的脏数据异步刷入磁盘。
【MySQL进阶篇】存储引擎(MySQL体系结构、InnoDB、MyISAM、Memory区别及特点、存储引擎的选择方案)
MySQL的存储引擎是其核心组件之一,负责数据的存储、索引和检索。不同的存储引擎具有不同的功能和特性,可以根据业务需求 选择合适的引擎。本文详细介绍了MySQL体系结构、InnoDB、MyISAM、Memory区别及特点、存储引擎的选择方案。
【MySQL进阶篇】存储引擎(MySQL体系结构、InnoDB、MyISAM、Memory区别及特点、存储引擎的选择方案)
MySQL存储引擎详述:InnoDB为何胜出?
MySQL 是最流行的开源关系型数据库之一,其存储引擎设计是其高效灵活的关键。InnoDB 作为默认存储引擎,支持事务、行级锁和外键约束,适用于高并发读写和数据完整性要求高的场景;而 MyISAM 不支持事务,适合读密集且对事务要求不高的应用。根据不同需求选择合适的存储引擎至关重要,官方推荐大多数场景使用 InnoDB。
105 7
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
241 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等