PostgreSQL btree-gin用于范围查询的奇怪现象

本文涉及的产品
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
简介: 1. 现象 之前做多字段索引测试的时候发现一个奇怪的现象,btree-gin提供的gin索引在处理1个比较操作的范围查询时性能还行,但处理有2个比较操作的范围查询时性能就很糟糕了。

1. 现象

之前做多字段索引测试的时候发现一个奇怪的现象,btree-gin提供的gin索引在处理1个比较操作的范围查询时性能还行,但处理有2个比较操作的范围查询时性能就很糟糕了。下面是例子。

2. 测试环境

测试环境在一个PC的虚拟机上
宿主机
- CPU:AMD Athlon II X4 640 3.0GHz
- MEM:6G
- OS:Win7 64bit
- 虚拟机所在存储:Apacer A S510S 128GB
虚拟机
- CPU:4 core
- MEM: 2G
- OS:CentOS release 6.5 (Final)
- PostgreSQL:9.4.2(shared_buffers = 128MB,其它都是默认值)

3. 测试

3.1 准备测试数据

chenhj=# create table tb1(c1 int,c2 int);
CREATE TABLE
chenhj=# insert into tb1 select round(random()*100),round(random()*1000) from generate_series(1,10000000);
INSERT 0 10000000
chenhj=# select pg_size_pretty(pg_table_size('tb1'));
 pg_size_pretty 
----------------
 346 MB
(1 row) 

3.2 创建c1+c2多字段gin索引

chenhj=# create extension btree_gin;
CREATE EXTENSION
chenhj=# create index tb1_idx_c1c2gin on tb1 using gin(c1,c2);
CREATE INDEX
chenhj=# select pg_size_pretty(pg_relation_size('tb1_idx_c1c2gin'));
 pg_size_pretty 
----------------
 47 MB
(1 row) 

3.3 只有1个比较操作的范围查询

chenhj=# explain (analyze,buffers) select count(*) from tb1 where c1>97 and c2=999;
                                                              QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------------------
 Aggregate  (cost=1790.59..1790.60 rows=1 width=0) (actual time=72.172..72.172 rows=1 loops=1)
   Buffers: shared hit=341
   ->  Bitmap Heap Scan on tb1  (cost=750.82..1789.90 rows=275 width=0) (actual time=71.794..72.138 rows=278 loops=1)
         Recheck Cond: ((c1 > 97) AND (c2 = 999))
         Heap Blocks: exact=278
         Buffers: shared hit=341
         ->  Bitmap Index Scan on tb1_idx_c1c2gin  (cost=0.00..750.75 rows=275 width=0) (actual time=71.744..71.744 rows=278 loops=1)
               Index Cond: ((c1 > 97) AND (c2 = 999))
               Buffers: shared hit=63
 Planning time: 0.257 ms
 Execution time: 72.234 ms
(11 rows) 

3.4 有2个比较操作的范围查询

chenhj=# explain (analyze,buffers) select count(*) from tb1 where c1>97 and c1<=100 and c2=999;
                                                                QUERY PLAN                                                                 
-------------------------------------------------------------------------------------------------------------------------------------------
 Aggregate  (cost=2523.96..2523.97 rows=1 width=0) (actual time=1459.645..1459.645 rows=1 loops=1)
   Buffers: shared hit=2347
   ->  Bitmap Heap Scan on tb1  (cost=1483.50..2523.28 rows=275 width=0) (actual time=1459.234..1459.599 rows=278 loops=1)
         Recheck Cond: ((c1 > 97) AND (c1 <= 100) AND (c2 = 999))
         Heap Blocks: exact=278
         Buffers: shared hit=2347
         ->  Bitmap Index Scan on tb1_idx_c1c2gin  (cost=0.00..1483.43 rows=275 width=0) (actual time=1459.175..1459.175 rows=278 loops=1)
               Index Cond: ((c1 > 97) AND (c1 <= 100) AND (c2 = 999))
               Buffers: shared hit=2069
 Planning time: 0.178 ms
 Execution time: 1460.071 ms
(11 rows) 

因为在构造数据时,c1的最大值就是100,所以上述两个查询匹配的数据是完全相同的,但结果却相差很大。

4. 和btree索引的比较

建一个对等的btree(c1,c2)索引,然后作个比较。

chenhj=# drop index tb1_idx_c1c2gin;
DROP INDEX
chenhj=# create index tb1_idx_c1c2gin on tb1 using btree(c1,c2);
CREATE INDEX
chenhj=# select pg_size_pretty(pg_relation_size('tb1_idx_c1c2btree'));
 pg_size_pretty 
----------------
 214 MB
(1 row)
chenhj=# explain (analyze,buffers) select count(*) from tb1 where c1>97 and c2=999;
                                                                QUERY PLAN                                                                
------------------------------------------------------------------------------------------------------------------------------------------
 Aggregate  (cost=7081.60..7081.61 rows=1 width=0) (actual time=10.740..10.740 rows=1 loops=1)
   Buffers: shared hit=962
   ->  Index Only Scan using tb1_idx_c1c2btree on tb1  (cost=0.43..7080.91 rows=275 width=0) (actual time=3.946..10.684 rows=278 loops=1)
         Index Cond: ((c1 > 97) AND (c2 = 999))
         Heap Fetches: 278
         Buffers: shared hit=962
 Planning time: 0.104 ms
 Execution time: 10.780 ms
(8 rows)

chenhj=# explain (analyze,buffers) select count(*) from tb1 where c1>97 and c1<=100 and c2=999;
                                                                QUERY PLAN                                                                
------------------------------------------------------------------------------------------------------------------------------------------
 Aggregate  (cost=7794.04..7794.05 rows=1 width=0) (actual time=13.119..13.121 rows=1 loops=1)
   Buffers: shared hit=962
   ->  Index Only Scan using tb1_idx_c1c2btree on tb1  (cost=0.43..7793.36 rows=275 width=0) (actual time=5.319..13.072 rows=278 loops=1)
         Index Cond: ((c1 > 97) AND (c1 <= 100) AND (c2 = 999))
         Heap Fetches: 278
         Buffers: shared hit=962
 Planning time: 0.133 ms
 Execution time: 13.255 ms
(8 rows) 

btree在处理比较查询时效率明显比btree-gin好的多。

5. 原因

在gin处理"c1>97 and c1<=100"时,将其分解为两个部分匹配,"c1>97"和"c1<=100",然后再把它们的结果通过bitmap与的逻辑取交集。 由于"c1<=100"匹配了所有记录,也就要为所有记录做bitmap与操作,所以效率很低。 btree索引则不同,btree理解比较操作符的含义,因此做了优化,通过一个(97,100]的很窄的范围扫描就能搞定。 
关于btree-gin如何处理比较操作,可以参考 http://blog.chinaunix.net/uid-20726500-id-5099605.html

6. 其它问题

在这次测试中还发现一个问题,走btree-gin索引的执行计划的代价估计值过小,严重偏离实际,所以如果同时定义了btree-gin索引和btree索引,优化器是一定会选择btree-gin的。

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
相关文章
|
1月前
|
关系型数据库 分布式数据库 数据库
PolarDB常见问题之加了索引但是查询没有使用如何解决
PolarDB是阿里云推出的下一代关系型数据库,具有高性能、高可用性和弹性伸缩能力,适用于大规模数据处理场景。本汇总囊括了PolarDB使用中用户可能遭遇的一系列常见问题及解答,旨在为数据库管理员和开发者提供全面的问题指导,确保数据库平稳运行和优化使用体验。
|
4月前
|
存储 关系型数据库 数据库
postgresql|数据库|提升查询性能的物化视图解析
postgresql|数据库|提升查询性能的物化视图解析
158 0
|
5月前
|
消息中间件 存储 关系型数据库
PostgreSQL技术大讲堂 - 第33讲:并行查询管理
PostgreSQL从小白到专家,技术大讲堂 - 第33讲:并行查询管理
289 1
|
4月前
|
关系型数据库 MySQL 分布式数据库
PolarDB MySQL版并行查询技术探索与实践
PolarDB MySQL版并行查询技术探索与实践 PolarDB MySQL版在企业级查询加速特性上进行了深度技术探索,其中并行查询作为其重要组成部分,已经在线稳定运行多年,持续演进。本文将详细介绍并行查询的背景、挑战、方案、特性以及实践。
108 2
|
6月前
|
SQL 关系型数据库 Go
PostgreSQL 查询语句大全
PostgreSQL 查询语句大全
66 0
|
5月前
|
SQL 关系型数据库 分布式数据库
数据库内核那些事|细说PolarDB优化器查询变换:IN-List变换
数据库内核那些事|细说PolarDB优化器查询变换:IN-List变换
104 0
|
9天前
|
SQL 存储 Oracle
关系型数据库查询数据的语句
本文介绍了关系型数据库中的基本SQL查询语句,包括选择所有或特定列、带条件查询、排序、分组、过滤分组、表连接、限制记录数及子查询。SQL还支持窗口函数、存储过程等高级功能,是高效管理数据库的关键。建议深入学习SQL及相应数据库系统文档。
9 2
|
6月前
|
存储 NoSQL 关系型数据库
深入探索地理空间查询:如何优雅地在MySQL、PostgreSQL及Redis中实现精准的地理数据存储与检索技巧
深入探索地理空间查询:如何优雅地在MySQL、PostgreSQL及Redis中实现精准的地理数据存储与检索技巧
674 0
|
2月前
|
SQL 关系型数据库 分布式数据库
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能,而不是使用IF函数
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能,而不是使用IF函数
43 7
|
2月前
|
存储 关系型数据库 分布式数据库
PolarDB for PostgreSQL查询问题之条件查询失败如何解决
PolarDB for PostgreSQL是基于PostgreSQL开发的一款云原生关系型数据库服务,它提供了高性能、高可用性和弹性扩展的特性;本合集将围绕PolarDB(pg)的部署、管理和优化提供指导,以及常见问题的排查和解决办法。