Deepgreen & Greenplum DBA小白普及课之二(管理问题解答)

本文涉及的产品
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
简介: 不积跬步无以至千里,要想成为一名合格的数据库管理员,首先应该具备扎实的基础知识及问题处理能力。本文参考Pivotal官方FAQ,对在管理Deepgreen & Greenplum时经常会遇到的问题提出解决思路/答案。

074f69580b19f3e9185c564025209dfa3cfad3e7

不积跬步无以至千里,要想成为一名合格的数据库管理员,首先应该具备扎实的基础知识及问题处理能力。本文参考Pivotal官方FAQ,对在管理Deepgreen & Greenplum时经常会遇到的问题提出解决思路/答案。希望对大家有所帮助,如果有朋友有更多的问题分享,请留言,我将一并整理。

下面单刀直入,开始问题浏览及解决思路梳理:
1.执行gpstart命令失败了,我该怎么办?
  • 查看gpstart命令在Master执行失败后返回的错误原因;
  • 检查gpstart的启动日志,这里可能存着更详细的信息,日志存储在:~gpadmin/gpAdminLogs/gpstart_yyyymmdd.log;
  • 检查pg startup产生的日志文件$MASTER_DATA_DIRECTORY/pg_log/startup.log,看能否发现蛛丝马迹;
  • 如果Segment启动失败,在以上几个日志中,我们可以定位出启动失败的Segment编号,紧接着我们可以切换到对应的Segment 主机下面,找到以上两个日志去查看Segment失败的具体原因。
2.为什么我们需要gpstart -m和gpstop -m命令?
  • 这两个命令允许我们只启动或关闭Master,不启动Segment数据节点。这两个命令主要用来配合管理员做一些数据库高级配置操作,一般用户最好不要使用。
3.如何查看数据库在线时间?
在psql界面执行如下语句:
postgres=# select now() - pg_postmaster_start_time() ;
       ?column?       
-----------------------
 1 day 13:51:04.865115
(1 row)

4.怎样才能删除Mirror节点?
  • Deepgreen和Greenplum不提供Mirror节点删除工具,所以添加Mirror之前请慎重考虑。如果非要去除Mirror节点,可以重新初始化集群,再把之前的数据恢复回来。
5.gpcheckcat是用来干嘛的?如何执行这个命令?
gpcheckcat工具用来检查Master和Segments之间的catalog差异,存在$GPHOME/bin/lib目录下,如果没有设置到环境变量,需要手工切换到该目录下执行。
语法如下:
Usage: gpcheckcat [dbname]

        -?
        -B parallel: number of worker threads
        -g dir     : generate SQL to rectify catalog corruption, put it in dir
        -h host    : DB host name
        -p port    : DB port number
        -P passwd  : DB password
        -o         : check OID consistency
        -U uname   : DB User Name
        -v         : verbose
执行举例(报告结果在最后):
dgadmin@flash:~/deepgreendb/bin/lib$ ./gpcheckcat postgres

Connected as user 'dgadmin' to database 'postgres', port '15432', gpdb version '4.3'
-------------------------------------------------------------------
Performing test 'duplicate'
Total runtime for this test: 0:00:24.49
Performing test 'missing_extraneous'
Total runtime for this test: 0:00:25.51
Performing test 'inconsistent'
Total runtime for this test: 0:00:40.60
Performing test 'foreign_key'
Total runtime for this test: 0:00:01.74
Performing test 'acl'
Total runtime for this test: 0:00:00.04
Performing test 'persistent'
Total runtime for this test: 0:00:00.38
Performing test 'pgclass'
Total runtime for this test: 0:00:00.01
Performing test 'namespace'
Total runtime for this test: 0:00:00.05
Performing test 'distribution_policy'
Total runtime for this test: 0:00:00.00
Performing test 'dependency'
Total runtime for this test: 0:00:02.18
Performing test 'owner'
Total runtime for this test: 0:00:00.04
Performing test 'part_integrity'
Total runtime for this test: 0:00:00.03
Performing test 'part_constraint'
Total runtime for this test: 0:00:00.04
Performing test 'duplicate_persistent'
Total runtime for this test: 0:00:00.43

SUMMARY REPORT
===================================================================
Total runtime for 14 test(s): 0:01:35.59
Found no catalog issue

6.怎样删除Standby?
  • 想要移除当前配置的Standby节点,只需要在Master主机上执行命令:gpinitstandby -r   。
7.如何执行Master和Standby之间的重新同步?
如果已经配置了Standby节点,并且想要同步主备之间的数据,可以执行以下命令:
gpinitstandby -n

8.如何恢复一个无效的Segment节点?
  • 使用gprecoverseg工具,它能识别哪个Segment需要被恢复并执行恢复。
9.如何增加Mirror节点?
  • 如果集群初始化没有配置Mirror节点,可以通过gpaddmirrors工具增加Mirror节点。
  • 具体命令执行细节请参考:gpaddmirrors --help
10.如何查看Master,primary和mirror之间的映射关系?
通过执行下面语句,看整个集群映射关系:
postgres=# select * from gp_segment_configuration order by dbid;
 dbid | content | role | preferred_role | mode | status | port  | hostname | address | replication_port | san_mounts
------+---------+------+----------------+------+--------+-------+----------+---------+------------------+------------
    1 |      -1 | p    | p              | s    | u      | 15432 | flash    | flash   |                  |
    2 |       0 | p    | p              | s    | u      | 25432 | flash    | flash   |            28432 |
    3 |       1 | p    | p              | s    | u      | 25433 | flash    | flash   |            28433 |
    4 |       0 | m    | m              | s    | u      | 26432 | flash    | flash   |            27432 |
    5 |       1 | m    | m              | s    | u      | 26433 | flash    | flash   |            27433 |
(5 rows)

11.如何以管理模式启动集群?
限制模式:
  • 执行gpstart -R可以启动限制模式,此时只有超级用户才可以连接到数据库。
系统模式:
  • 执行gpstart -m可以启动系统模式,此时我们可以单独连接到某一个Master或者Segment实例,例如只连接到Master实例
dgadmin@flash:~$ PGOPTIONS='-c gp_session_role=utility' psql -d postgres
psql (8.2.15)
Type "help" for help.

postgres=#

12.如何运行I/O、netperf检查工具gpcheckperf?
针对每个网络接口卡的网络I/O测试:
gpcheckperf -f seg_host_file_nic-1 -r N -d /data/gpcheckperf > seg_host_file_nic_1.out
gpcheckperf -f seg_host_file_nic-2 -r N -d /data/gpcheckperf > seg_host_file_nic_2.out
针对磁盘IO的测试:
gpcheckperf -f seg_host_file_nic-1 -r ds -D -d /data/gpdb_p1 -d  /data/gpdb_p2 -d /data/gpdb_m1 -d  /data/gpdb_m2

13.如何更新postgresql.conf文件并使生效?
  • 除了常规的修改postgresql.conf文件并重载/重启使参数生效外,还可以使用gpconfig工具进行设置。具体命令参见:gpconfig --help
14.pg_hba.conf文件是干嘛用的?
  • Master主机上的pg_hba.conf文件用来控制客户端访问及授权。具体如何配置请参见官方数据库管理手册。
15.如何增加数据库新用户?
首先,可以使用createuser命令:
dgadmin@flash:~$ createuser --help
createuser creates a new PostgreSQL role.

Usage:
  createuser [OPTION]... [ROLENAME]

Options:
  -c, --connection-limit=N  connection limit for role (default: no limit)
  -d, --createdb            role can create new databases
  -D, --no-createdb         role cannot create databases
  -e, --echo                show the commands being sent to the server
  -E, --encrypted           encrypt stored password
  -i, --inherit             role inherits privileges of roles it is a
                            member of (default)
  -I, --no-inherit          role does not inherit privileges
  -l, --login               role can login (default)
  -L, --no-login            role cannot login
  -N, --unencrypted         do not encrypt stored password
  -P, --pwprompt            assign a password to new role
  -r, --createrole          role can create new roles
  -R, --no-createrole       role cannot create roles
  -s, --superuser           role will be superuser
  -S, --no-superuser        role will not be superuser
  --help                    show this help, then exit
  --version                 output version information, then exit

Connection options:
  -h, --host=HOSTNAME       database server host or socket directory
  -p, --port=PORT           database server port
  -U, --username=USERNAME   user name to connect as (not the one to create)
  -w, --no-password         never prompt for password
  -W, --password            force password prompt

If one of -d, -D, -r, -R, -s, -S, and ROLENAME is not specified, you will
be prompted interactively.

Report bugs to <pgsql-bugs@postgresql.org>.
其次,可以在psql窗口通过sql命令创建:
CREATE USER or ROLE <ROLE_NAME> ....

16.如何在所有主机之间创建密码互信?
使用gpssh-exkeys工具来创建,参见下面语法:
gpssh-exkeys -h hostname1 -h hostname2 ..  -h hostnameN

17.如何查看数据库版本信息?
首先可以通过psql界面执行select version(); sql语句:
postgres=#  select version();
                                                                                           version                                                                                         

--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
-
 PostgreSQL 8.2.15 (Greenplum Database 4.3.99.00 build Deepgreen DB) on x86_64-unknown-linux-gnu, compiled by GCC gcc (Ubuntu 4.9.4-2ubuntu1~14.04.1) 4.9.4 compiled on May 18 2017 05:19:19
(1 row)
其次,可以通过在shell界面执行命令:postgres --gp-version查看:
dgadmin@flash:~$ postgres --gp-version
postgres (Greenplum Database) 4.3.99.00 build Deepgreen DB

18.pg_hba.conf、日志文件、master_data_directory目录都在哪?
  • 数据库安装完后,一般都会设置$MASTER_DATA_DIRECTORY的位置,通常在:/数据目录/master/seg-1下面,具体依据你的设置。
  • pg_hba.conf、pg_log、postgresql.conf和一些常规的数据库目录都在这个路径下。
19.vacuum工具是做什么用的?什么情况下执行vacuum?
  • vacuum命令用于回收删除操作以后没有被及时释放的空间。在一般的数据库操作中,表数据在被更新或删除后,并没有真正的从物理上删除掉,真正的删除发生在vacuum命令执行完后。
  • 基于这个原因,很有必要对经常更新的表做周期性的vacuum操作。
20.vacuum 和 vacuum full两个工具有什么区别?
  • vacuum会将表中更新\删除操作后的脏数据清除,把空间回收回来给当前表存储其他数据使用,仍然可以用于当前的表。
  • vacuum full则会将当前的数据重新写入一个新文件,然后把原来的数据文件全部释放。这样会导致锁表、负载增加,所以要慎用。
21.analyze命令是做什么用的?多频繁运行它才合理?
  • analyze用来收集数据库表的统计信息并存储在数据库中,查询优化器通过这些信息来分析每个查询并给出最有效的查询执行计划。
  • 规律的执行analyze是很有效的,另外在表有很大的变化时,一定要执行analyze。
  • 一个通用的方案是每天都执行一次analyze和vacuum操作,当然如果表更新频繁,建议在每次更新完成后即刻执行。
22.资源队列是什么?
  • 资源队列用来管理数据库的资源负载。资源队列中的所有用户/查询都具有某种优先权。详细信息参见官网参考手册。
23.gp_toolkit是什么?
  • gp_toolkit是数据库中的一个模式,其中包含很多表、视图和函数,用来在数据库启动状态下帮助管理员更好的管理数据库。
相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
3天前
|
架构师 关系型数据库 分布式数据库
实战秘籍 | 《学姐和你一起学PolarDB-X》课程拓展资料(第二讲)
本期课程,由阿里云的开源架构师——黄心雨学姐为大家带来《使用云起实验室体验PolarDB分布式版》,在课后学姐还精心准备了拓展学习资料,供各位开发者们进一步探索和学习,早日成为数据大师!
|
24天前
|
架构师 开发者
实战秘籍 | 《学姐和你一起学PolarDB-X》课程拓展资料(第一讲)
本期课程,由阿里云的开源架构师——王江颖学姐为大家带来《PolarDB-X的架构介绍》,在课后学姐还精心准备了拓展学习资料,供各位开发者们进一步探索和学习,早日成为数据大师!
|
4月前
|
SQL 关系型数据库 MySQL
完美,阿里DBA骨干团队编写的792页MySQL调优笔记真香
这个世界是由问题组成的,理想的状态和实际状态之间的差异造成了问题。国家领导解决人民生活幸福的大问题,公司的总经理解决盈利的问题,而本书只想解决MySQL数据库性能这么一一个“小问题”。
|
11月前
|
运维 关系型数据库 MySQL
【荐书&赠书】MySQL技术大全开发、优化与运维实战
【荐书&赠书】MySQL技术大全开发、优化与运维实战
191 0
|
存储 Cloud Native 安全
“数据库内核从入门到精通 ”系列课开讲!
基于 2022 年教育部-阿里云产学合作协同育人教学内容和课程改革项目合作,云原生分布式开源数据库 PolarDB 系列示范课程建设项目陆续和高校展开。阿里云开发者社区、阿里云PolarDB开源社区、武汉大学联合出品「数据库内核从入门到精通」系列课程正式上线,阿里云数据库专家携手高校教师系统化解读数据库理论,开展数据库实践,带学员全面掌握数据库内核开发技能。
“数据库内核从入门到精通 ”系列课开讲!
|
弹性计算 关系型数据库 MySQL
“冬季实战营第三期:MySQL数据库进阶实战”场景体验实验小结
冬季实战营第三期,通过场景实际操作,了解MySQL数据库操作。
139 0
“冬季实战营第三期:MySQL数据库进阶实战”场景体验实验小结
|
SQL 存储 运维
免费下载!冰河力作——《MySQL 技术大全:开发、优化与运维实战》重磅登场!
MySQL 具有小巧、灵活和免费等特性,这使得它越来越多地被用于企业的实际开发中。 特别是 MySQL 数据库的开源特性,更使它得到了广泛应用。
免费下载!冰河力作——《MySQL 技术大全:开发、优化与运维实战》重磅登场!
|
关系型数据库 开发者 数据库管理
【学习视频】第7期2021-Ask 德哥 系列 - 适合DBA与业务开发者
大家好,这里是Ask 德哥 - 视频回放 汇总贴
|
Oracle 关系型数据库 数据库
|
SQL 数据库 数据库管理
Deepgreen & Greenplum DBA小白普及课之三(备份问题解答)
不积跬步无以至千里,要想成为一名合格的数据库管理员,首先应该具备扎实的基础知识及问题处理能力。本文参考Pivotal官方FAQ,对在管理Deepgreen & Greenplum时经常会遇到的问题提出解决思路/答案,本篇主要讲备份方面的问题。
2816 0