学习笔记-Redis设计与实现-数据库

本文涉及的产品
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介:

9.1 服务器中得数据库

 

Redis服务器默认会创建16个数据库。

 

9.2 切换数据库

 

默认情况下,Redis客户端得目标数据库为0号数据库,但客户端可以通过执行SELECT命令来切换目标数据库。

 

9.3 数据库键空间

 

键空间和用户所见得数据库是直接对应得:

  • 键空间得键就是数据库得键,每个键都是一个字符串对象。

  • 键空间得值也就是数据库的值,每个值可以是字符串对象、列表对象、哈希表对象、集合对象和有序集合对象中的任意一种Redis对象。

 

9.3.1 添加新键

 

添加一个新键值对到数据库,实际上就是将一个新键值对添加到键空间字典里面,其中键为字符串对象,而值则为任意中类型的Redis对象。

 

9.3.2 删除键

 

删除数据库中的一个键,实际上就是在键空间里面删除键所对应的键值对对象。

 

9.3.3 更新键

 

对一个数据库键进行更新,实际上就是对键空间里面键所对应的值对象进行更新,根据值对象的类型不同,更新的具体方法也会有不同。

 

9.3.4 对键取值

 

对一个数据库键进行取值,实际上就是在键空间中取出键所对应的值对象,根据值对象的类型不同,具体的取值方法也会有所不同。

 

9.3.5 其他键空间操作

 

FLUSHDBRANDOMKEYDBSIZEEXISTSRENAMEKEYS

 

9.3.6 读写键空间时的维护操作

 

当使用Redis命令对数据库进行读写时,服务器不仅会对键空间执行指定的读写操作,还会执行一些额外的维护操作:

  • 在读取一个键后,服务器会根据键是否存在来更新服务器的键空间命中次数或键空间不命中次数。

  • 在读取一个键之后,服务器会更新键的LRU时间,这个值可以用于计算键的闲置时间,使用OBJECT IDLETIME <key>命令可以查看键key的闲置时间。

  • 如果服务器在读取一个键时发现该键已经过期,那么服务器会先删除这个过期键,然后才执行余下的其他操作。

  • 如果有客户端使用WATCH命令监视了某个键,那么服务器在对被监视的键进行修改后,会将这个键标记为脏(dirty),从而让事务程序注意到这个键已经被修改过。

  • 服务器每次修改一个键之后,都会对脏(dirty)键计数器的值增1,这个计数器会出发服务器的持久化以及复制操作。

  • 如果服务器开启了数据库通知功能,那么在对键进行修改之后,服务器将按照配置发送相应的数据库通知。

 

9.4 设置键的生存时间或过期时间

 

通过EXPIRE命令或者PEXPIRE命令,客户端可以以秒或者毫秒精度为数据库中的某个键设置生存时间(Time To Live TTL),在经过指定的秒数或者毫秒数之后,服务器就会自动删除生存时间为0的键。

 

SETEX命令可以在设置一个字符串键的同时为键设置过期时间。

 

客户端可以通过EXPIREAT命令或PEXPIREAT命令,以秒或者毫秒精度给数据库中的某个键设置过期时间(expire time)。

 

TTL命令和PTTL命令接受一个带有生存时间或者过期时间的键,返回这个键的剩余生存时间。

 

9.4.1 设置过期时间

 

Redis有四个不同的命令可以用于设置键的生存时间或过期时间:

  • EXPIRE <key> <ttl> 命令用于将键key的生存时间设置为ttl秒。

  • PEXPIRE <key> <ttl> 命令用于将键key的生存时间设置为ttl毫秒。

  • EXPIREAT <key> <timestamp> 命令用于将键key的过期时间设置为timestamp所指定的秒数时间戳。

  • PEXPIREAT <key> <timestamp> 命令用于将键key的过期时间设置为timestamp所指定的毫秒时间戳。

 

9.4.2 保存过期时间

 

redisDb结构的expires字典保存了数据库中的所有键的过期时间,我们称这个字典为过期字典:

过期字典的键是一个指针,这个指针指向键空间中的某个键对象。

过期对象的值是一个long long类型的整数,这个整数保存了键所指向的数据库键的过期时间-----一个毫秒精度的UNIX时间戳。

 

9.4.3 移除过期时间

 

PERSIST命令可以移除一个键的过期时间

 

9.4.4 计算并返回剩余生存时间

 

TTL命令以秒为单位返回键的剩余生存时间,而PTTL命令则以毫秒为单位返回键的剩余生存时间。

 

9.5 过期键删除策略

 

三种不同的删除策略:

  • 定时删除:在设置键的过期时间的同时,创建一个定时器(timer),让定时器在键的过期时间来临时,立即执行对键的删除操作。

  • 惰性删除:放任键过期不管,但是每次从键空间中获取键时,都检查取得的键是否过期,如果过期的话,就删除该键;如果没有过期,就返回该键。

  • 定期删除:每隔一段时间,程序就对数据库进行一次检查,删除里面的过期键。至于要删除多少过期键,以及要检查多少个数据库,则由算法决定。

 

9.5.1 定时删除

 

定时删除策略对内存时最友好的:通过使用定时器,定时删除策略可以保证过期键会尽可能快地被删除,并释放出过期键所占用地内存。

 

定时删除策略地缺点是,它对CPU时间是最不友好地:在过期键比较多的情况下,删除过期键这一行为可能会占用相当一部分CPU时间,会对服务器的响应时间和吞吐量造成影响。

 

创建一个定时器需要用到Redis服务器中的时间事件,而当前时间的实现方式---无序链表,查找一个时间的时间复杂度为O(N)---并不能高效地处理大量时间事件。

 

9.5.2 惰性删除

 

惰性删除策略对CPU时间来说是最友好的,对内存是最不友好的。

 

9.5.3 定期删除

 

定期删除策略是前两种策略的一种整合和这种:

  • 定期删除策略每隔一段时间执行一次删除过期键操作,并通过限制删除操作执行的时长和频率来减少删除操作对CPU时间的影响。

  • 通过定期删除过期键,定期删除策略有效地减少了因为过期键而带来地内存浪费。

 

定期删除策略地难点是确定删除操作执行地时长和频率。

 

9.6 Redis地过期键删除策略

 

Redis服务器使用地是惰性删除和定期删除两种策略。

 

9.6.1 惰性删除策略的实现

 

过期键的惰性删除策略由db.c/expireIfNeeded函数实现,所有读写数据库的Redis命令在执行之前都会调用expireIfNeeded函数对输入键进行检查:

  • 如果输入键已经过期,那么expireIfNeeded函数将输入键从数据库中删除。

  • 如果输入键未过期,那么expireIfNeeded函数不做动作。

 

每个被访问的键都可能因为过期而被expireIfNeeded函数删除,所以每个命令的实现函数都必须能同时处理键存在以及键不存在这两种情况:

  • 当键存在时,命令按照键存在的情况执行。

  • 当键不存在或者键因为过期而被expireIfNeeded函数删除时,命令按照键不存在的情况执行。

 

9.6.2 定期删除策略的实现

 

过期键的定期删除策略由redis.c/activeExpireCycle函数实现,每当Redis的服务器周期性操作redis.c/serverCron函数执行时,activeExpireCycle函数就会被调用,它在规定的时间内,分多次遍历服务器中的各个数据库,从数据库的expires字典中随机检查一部分键的过期时间,并删除其中的过期键。

 

activeExpireCycle函数的工作模式可以总结如下:

  • 函数每次运行时,都从一定数量的数据库中取出一定数量的随机键进行检查,并删除其中的过期键。

  • 全局变量current_db会记录当前activeExpireCycle函数检查的进度,并在下一次activeExpireCycle函数调用时,接着上一次的进度执行处理。

  • 随着activeExpireCycle函数的不断执行,服务器中的所有数据库都会被检查一遍,这时函数将current_db变量重置为0,然后再次开始新一轮的检查工作。

 

9.7 AOFRDB和复制功能对过期键的处理

 

9.7.1 生存RDB文件

 

在执行SAVE命令或者BGSAVE命令创建一个新的RDB文件时,程序会对数据库的键进行检查,已过期的键不会被保存到新创建的RDB文件中。

 

数据库中包含过期键不会对生成新的RDB文件造成影响。

 

9.7.2 载入RDB文件

 

在启动Redis服务器时,如果服务器开启了RDB功能,那么服务器将对RDB文件进行载入:

  • 如果服务器以主服务器模式运行,那么在载入RDB文件时,程序会对文件中保存的键进行检查,未过期的键会被载入到数据库中,而过期键则会被忽略,所以过期键对载入RDB文件的主服务器不会造成影响。

  • 如果服务器以从服务器模式运行,那么在载入RDB文件时,文件中保存的所有键,都会被载入到数据库中。

 

9.7.3 AOF文件写入

 

当服务器以AOF持久化模式运行时,如果数据库中的某个键已经过期,但它还没有被惰性删除或定期删除,那么AOF文件不会因为这个过期键而产生任何影响。

当过期键被惰性删除或者定期删除之后,程序会向AOF文件追加(append)一条DEL命令,来显示地记录键已被删除。

 

9.7.4 AOF重写

 

在执行AOF重写的过程中,程序会对数据库中的键进行检查,已过期的键不会被保存到重写后的AOF文件中。

 

9.7.5 复制

 

当服务器运行在复制模式下时,从服务器的过期键删除动作由主服务器控制:

  • 主服务器在删除一个过期键之后,会显示地向所有从服务器发送一个DEL命令,告知从服务器删除这个过期键。

  • 从服务器在执行客户端发送的读命令时,即使碰到过期键也不会将过期键删除,而是继续像处理未过期的键一样来处理过期键。

  • 从服务器只有在接到主服务器发来的DEL命令之后,才会删除过期键。

 

通过由主服务器来控制从服务器统一地删除过期键,可以保证主从服务器数据的一致性,也正是因为这个原因,当一个过期键仍然存在于主服务器时,这个过期键在从服务器里的复制品也会继续存在。

 

9.8  数据库通知

 

让客户端通过订阅给定的频道或者模式,来获知数据库中键的变化,以及数据库中命令的执行情况。

 

关注“某个键执行了什么命令”的通知成为键空间通知(key-space notification

 

关注的是“某个命令被什么键执行了”的通知称为键事件通知(key-event notification

 

服务器配置的notify-keyspace-events选项决定了服务器所发送通知的类型:

  • 服务器发送所有类型的键空间通知和键事件通知,将选项的值设置为AKE

  • 服务器发送所有类型的键空间通知,将选项的值设置为AK

  • 服务器发送所有类型的键事件通知,将选项的值设置为AE

  • 服务器只发送和字符串键有关的键空间通知,将选项的值设置为K$

  • 服务器只发送和列表键有关的键事件通知,将选项的值设置为El

 

9.9 重点回顾

 

  • Redis服务器的所有数据库都保存在redisServer.db数组中,而数据库的数量则由redisServer.dbnum属性保存。

  • 客户端通过修改目标数据库指针,让它指向redisServer.db数组中不同元素来切换不同的数据库。

  • 数据库主要由dict和expire两个字典构成,其中dict字典负责保存键值对,而expires字典则负责保存键的过期时间。

  • 因为数据库由字典构成,所以对数据库的操作都是建立在字典操作之上的。

  • 数据库的键总是一个字符串对象,而值则可以是任意一种Redis对象类型。

  • expires字典的键指向数据库中的某个键,而值则记录了数据库键的过期时间,过期时间是一个以毫秒为单位的UNIX时间戳。

  • Redis使用惰性删除和定期删除两种策略来删除过期的键:惰性删除策略值在碰到过期的键时才进行删除操作,定期删除策略则每隔一段时间主动查找并删除过期键。

  • 执行SAVE命令或者BGSAVE命令所产生的新RDB文件不会包含已经过期的键。

  • 执行BGREWRITEAOF命令所产生的重写AOF文件不会包含已经过期的键。

  • 当一个过期键被删除之后,服务器会追加一条DEL命令到现有AOF文件的末尾,显示地删除过期键。

  • 当主服务器删除一个过期键之后,它会向所有从服务器发送一条DEL命令,显示地删除过期键。

  • 从服务器即使发现过期键也不会自作主张地删除它,而是等待主节点发来DEL命令,这种统一、中心化地过期键删除策略可以保证主从服务器数据地一致性。

  • 当Redis命令对数据库进行修改后,服务器会根据配置向客户端发送数据库通知。



本文转自 许大树 51CTO博客,原文链接:http://blog.51cto.com/abelxu/1898449,如需转载请自行联系原作者
相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
2月前
|
存储 缓存 NoSQL
在Python Web开发过程中:数据库与缓存,Redis在Web开发中的常见应用场景有哪些?
Redis在Python Web开发中常用于缓存、会话管理、分布式锁、排行榜、消息队列和实时分析。作为内存数据存储,它提供高效的数据结构(如字符串、哈希、列表、集合、有序集合),支持会话存储、互斥操作、计数与排名、队列实现及实时数据处理。其高速性能和丰富功能使其成为多场景下的理想选择。
25 5
|
1月前
|
缓存 NoSQL 算法
17- 数据库有1000万数据 ,Redis只能缓存20w数据, 如何保证Redis中的数据都是热点数据 ?
保证Redis中的20w数据为热点数据,可以通过设置Redis的LFU(Least Frequently Used)淘汰策略。这样,当数据库有1000万数据而Redis仅能缓存20w时,LFU会自动移除使用频率最低的项,确保缓存中的数据是最常使用的。
63 8
|
12天前
|
消息中间件 NoSQL OLAP
doris数据库是否可以替代redis
【4月更文挑战第20天】doris数据库是否可以替代redis
279 0
|
13天前
|
存储 NoSQL 关系型数据库
Redis_非关系型数据库
Redis_非关系型数据库
|
22天前
|
NoSQL MongoDB Redis
Python与NoSQL数据库(MongoDB、Redis等)面试问答
【4月更文挑战第16天】本文探讨了Python与NoSQL数据库(如MongoDB、Redis)在面试中的常见问题,包括连接与操作数据库、错误处理、高级特性和缓存策略。重点介绍了使用`pymongo`和`redis`库进行CRUD操作、异常捕获以及数据一致性管理。通过理解这些问题、易错点及避免策略,并结合代码示例,开发者能在面试中展现其技术实力和实践经验。
311 8
Python与NoSQL数据库(MongoDB、Redis等)面试问答
|
1月前
|
存储 缓存 NoSQL
Redis 服务器指南:高性能内存数据库的完整使用指南
Redis 服务器指南:高性能内存数据库的完整使用指南
|
2月前
|
缓存 NoSQL Redis
在Python Web开发过程中:数据库与缓存,除了Redis是内存数据库以外,还有哪些原因使其运行速度快?
Redis在Python Web开发中快速的原因:内存存储、多样化数据结构(如字符串、哈希、列表等)简化数据模型,单线程处理提高效率,结合非阻塞I/O;RDB和AOF提供持久化保障;TCP+二进制协议减少网络开销;管道技术提升通信效率。这些设计使Redis能高效处理高并发请求。
20 3
|
1天前
|
关系型数据库 MySQL 数据库
docker MySQL删除数据库时的错误(errno: 39)
docker MySQL删除数据库时的错误(errno: 39)
|
1天前
|
关系型数据库 MySQL 数据库连接
用Navicat备份Mysql演示系统数据库的时候出:Too Many Connections
用Navicat备份Mysql演示系统数据库的时候出:Too Many Connections
|
2天前
|
存储 Oracle 关系型数据库
oracle 数据库 迁移 mysql数据库
将 Oracle 数据库迁移到 MySQL 是一项复杂的任务,因为这两种数据库管理系统具有不同的架构、语法和功能。
15 0