PostgreSQL流复制热备

本文涉及的产品
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
简介: 关于pg热备与主备切换网上很多内容都有了,本文仅为自己测试使用,特意记录过程,或对其他人提供参考。本文作者选择pg9.6.1版本作为测试。一 主备机器规划主机名 | IP | 角色 | 端口:----:|:----:|:----:|:----:|:----:|:----:master| 192.

关于pg热备与主备切换网上很多内容都有了,本文仅为自己测试使用,特意记录过程,或对其他人提供参考。本文作者选择pg9.6.1版本作为测试。

一 主备机器规划

主机名 | IP | 角色 | 端口
:----:|:----:|:----:|:----:|:----:|:----:
master| 192.168.0.108 |Master|5432
slave|192.168.0.109|Slave|5432
前提:分别在两台主机上安装好pg数据库,安装过程参考之前博客说明http://www.jianshu.com/p/639ebb43bfb4

二 创建流复制

2.1 设置host

master,slave两节点都要操作。

[root@bogon ~]# vim /etc/hosts
#编辑内容如下:
192.168.43.127 master
192.168.43.243 slave

按esc,wq!保存退出。

2.2 初始化master数据库

以下操作在master下执行:

#切换到postgres账户
[root@bogon ~]# su - postgres
#初始化data
[postgres@bogon ~]$ initdb -D $PGDATA
# 启动master数据库
[postgres@bogon ~]$ pg_ctl start -D $PGDATA
#创建流复制用户
[postgres@bogon ~]$ psql
psql (9.6.1)
Type "help" for help.

postgres=# CREATE USER repuser replication LOGIN CONNECTION LIMIT 3 ENCRYPTED PASSWORD 'repuser';
CREATE ROLE

2.3 配置pg_hba.conf

在master的pg_hba.conf最后一行增加如下:

host    all             all          0.0.0.0/0       md5
host replication      repuser         slave          md5

2.4 配置postgresql.conf

在master端配置如下:

listen_addresses = '*' 
port = 5432 
max_wal_senders = 1 
wal_level = replica
archive_mode = on 
archive_command = 'cd ./'
hot_standby = on
wal_keep_segments = 64
full_page_writes = on
wal_log_hints = on

配置完成后,重启master数据库

[postgres@bogon ~]$ pg_ctl restart -D $PGDATA

2.5 pg_basebackup 创建备库

在slave端的postgres账户下执行:

#切换到postgres账户
[root@bogon ~]# su - postgres
#从主库备份创建备库
[postgres@bogon ~]$ pg_basebackup -D $PGDATA -Fp -Xs -v -P -h master -p 5432 -U repuser
transaction log start point: 0/2000060 on timeline 1
pg_basebackup: starting background WAL receiver
22806/22806 kB (100%), 1/1 tablespace                                         
transaction log end point: 0/2000130
pg_basebackup: waiting for background process to finish streaming ...
pg_basebackup: base backup completed

修改slave中data目录下的pg_hba.conf最后一行修改如下:

host    all             all          0.0.0.0/0            md5
host replication       repuser       master               md5

2.6 配置recovery.conf

Master端配置如下:

[postgres@bogon ~]$ ls
bin  data  gdal  geos  include  lib  proj4  share
[postgres@bogon ~]$ cp share/recovery.conf.sample data/recovery.done
[postgres@bogon ~]$ vim data/recovery.done
#编辑内容如下
recovery_target_timeline = 'latest'
standby_mode = on
primary_conninfo = 'host=slave port=5432 user=repuser password=repuser'
trigger_file = '/home/postgres/data/trigger_file'

Salve端配置如下:

[postgres@bogon ~]$ ls
bin  data  gdal  geos  include  lib  proj4  share
[postgres@bogon ~]$ cp share/recovery.conf.sample data/recovery.conf
[postgres@bogon ~]$ vim data/recovery.conf
#编辑内容如下
recovery_target_timeline = 'latest'
standby_mode = on
primary_conninfo = 'host=master port=5432 user=repuser password=repuser'
trigger_file = '/home/postgres/data/trigger_file'

2.7 配置.pgpass

master上配置访问slave参数

[postgres@bogon ~]$ vim .pgpass
slave:5432:postgres:repuser:repuser

slave上配置访问master参数

[postgres@bogon ~]$ vim .pgpass
master:5432:postgres:repuser:repuser

2.8 流复制数据同步测试

分别启动master,slave数据库
在master上创建一个数据库和临时表

[postgres@bogon data]$ psql
psql (9.6.1)
Type "help" for help.
postgres=# \password  #创建数据库密码
#创建测试数据库
postgres=# create database test;
CREATE DATABASE
postgres=# \c test
You are now connected to database "test" as user "postgres".
test=# create table tt(id serial not null,name text);
CREATE TABLE
test=# insert into tt(name) values ('china');
INSERT 0 1

在slave上查询刚才创建的表和数据,判定是否有数据同步

[postgres@bogon data]$ psql
psql (9.6.1)
Type "help" for help.

postgres=# \c test
You are now connected to database "test" as user "postgres".
test=# select * from tt;
 id | name  
----+-------
  1 | china
(1 row)

很明显,从库已经同步了主库的数据,到此可以说PG流复制热备已经创建结束了。以下对流复制做一些简单的应用。

三 主备切换

一般可以通过若干命令查询数据库的主备属性,主数据库是读写的,备数据库是只读的。当主数据库宕机了,可以通过建立触发文件,备数据库将被提升为主数据库,实现一些基本的HA应用。

3.1 查询主备

3.1.1 pg_controldata

主机
[postgres@localhost ~]$ pg_controldata
pg_control version number:            960
Catalog version number:               201608131
Database system identifier:           6362107256088627972
Database cluster state:               in production
备机
pg_control version number:            960
Catalog version number:               201608131
Database system identifier:           6362107256088627972
Database cluster state:               in archive recovery

主机的cluster state是in production,备机的cluster state是in archive recovery。

3.1.2 字典表pg_stat_replication

在主机字典表中是能查到记录,备机中是查询不到的。

postgres=# select pid,application_name,client_addr,client_port,state,sync_state from pg_stat_replication;
  pid  | application_name |  client_addr  | client_port |   state   | sync_state 
-------+------------------+---------------+-------------+-----------+------------
 17131 | walreceiver      | 192.168.0.105 |       55734 | streaming | async
(1 row)

3.1.3 进程信息识别

进程中显示wal sender的是主机,显示wal receiver的是备机
master:


img_4956be8d4dbaca655bd71ffbb46198d9.png
主机进程.png

slave:


img_1cb66f2a24e499d364afd7bcf78a6826.png
备机进程.png

3.1.4 通过pg函数

备机是t,主机是f。
主机

postgres=# select pg_is_in_recovery();
 pg_is_in_recovery 
-------------------
 f
(1 row)

备机

postgres=# select pg_is_in_recovery();
 pg_is_in_recovery 
-------------------
 t
(1 row)

3.2 备机切换成主机

主机宕机前:

img_6b09240781f6e2394520cce7fadd04cc.png
宕机前备机进程.png

主机执行pg_ctl stop 命令。
宕机后:


img_9d363d8ac95b51d78c810f07bde1e7ca.png
主机宕机后.png

备机报错,说不能连接主机了。
之前曾配置过:

 trigger_file = '/home/postgres/datatrigger_file'

备机切换到主机,在备机上执行

[postgres@localhost ]$  touch /home/postgres/data/trigger_file;

再去备机上查看进程:

img_2aedffbbe4e4290484d4e0512455f802.png
备机进程.png

备机已经切换到主机了。

3.3 原来主机切换成备机

在当前主机(现在是slave了,主机切换了)执行插入语句

postgres=#  insert into tt(name) values('sdf');

如果master上data目录中的recovery.done没有变成recovery.conf,可以手动强制更改。

[postgres@data]$  mv recovery.done recovery.conf

如果已经是recovery.conf就直接执行下面的。

#启动数据库
[postgres@data]$  pg_ctl start
[postgres@bogon data]$ ERROR:  requested starting point 0/6000000 on timeline 1 is not in this server's history
DETAIL:  This server's history forked from timeline 1 at 0/4000098.
ERROR:  requested starting point 0/6000000 on timeline 1 is not in this server's history
DETAIL:  This server's history forked from timeline 1 at 0/4000098.
ERROR:  requested starting point 0/6000000 on timeline 1 is not in this server's history
#其实还有很多时间线不一致等

原因是当前主机slave数据发生变化了,原来的master数据和当前数据不一致了,要确保数据时间线一致。我们使用pg_rewind来同步时间线。
在master(从机上操作)

#从slave上拉取最新时间线和数据给当前的master
[postgres@bogon ~]$ pg_rewind  --target-pgdata=/home/postgres/data --source-server='host=slave port=5432 user=postgres dbname=postgres'

target server must be shut down cleanly
Failure, exiting

发现报错了,说target server 必须关闭,source-server是slave,那么target server就是master,那么停掉master上pg服务。

#先停止服务
[postgres@bogon ~]$  pg_ctl stop
#再拉取数据
[postgres@bogon ~]$ pg_rewind  --target-pgdata=/home/postgres/data --sourceserver='host=slave port=5432 user=postgres dbname=postgres'
servers diverged at WAL position 0/4000098 on timeline 1
rewinding from last common checkpoint at 0/4000028 on timeline 1
Done!
#重启服务
[postgres@bogon ~]$  pg_ctl start

可以检查下,现在的master上数据和slave是一致的了。

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
相关文章
|
弹性计算 网络协议 容灾
PostgreSQL 时间点恢复(PITR)在异步流复制主从模式下,如何避免主备切换后PITR恢复(备库、容灾节点、只读节点)走错时间线(timeline , history , partial , restore_command , recovery.conf)
标签 PostgreSQL , 恢复 , 时间点恢复 , PITR , restore_command , recovery.conf , partial , history , 任意时间点恢复 , timeline , 时间线 背景 政治正确非常重要,对于数据库来说亦如此,一个基于流复制的HA架构的集群,如果还有一堆只读节点,当HA集群发生了主备切换后,这些只读节点能否与新的主节点保持
1656 0
|
4月前
|
关系型数据库 数据库 PostgreSQL
postgresql|【基于pg_basebackup命令的归档备份和恢复---热备冷恢复方式】
postgresql|【基于pg_basebackup命令的归档备份和恢复---热备冷恢复方式】
50 0
|
关系型数据库 流计算 PostgreSQL
关于PostgreSQL逻辑订阅中的复制状态
关于PostgreSQL逻辑订阅中的复制状态
2414 0
|
7月前
|
关系型数据库 MySQL 分布式数据库
PolarDB MySQL无损快速的热备切换
本实验带您体验在故障容灾场景下,PolarDB MySQL无损快速的热备切换。
215 0
|
SQL 存储 关系型数据库
PostgreSQL 流复制搭建主从环境,同步和异步的解释,压力测试,主从角色切换|学习笔记
快速学习PostgreSQL 流复制搭建主从环境,同步和异步的解释,压力测试,主从角色切换
731 0
PostgreSQL 流复制搭建主从环境,同步和异步的解释,压力测试,主从角色切换|学习笔记
|
SQL 存储 关系型数据库
9 PostgreSQL 点对点多主表级复制-触发器篇|学习笔记
快速学习9 PostgreSQL 点对点多主表级复制-触发器篇
342 0
9 PostgreSQL 点对点多主表级复制-触发器篇|学习笔记
|
存储 SQL Oracle
10 PostgreSQL 表级复制-物化视图篇, 支持异地,异构如 Oracle 到 pg 的物化视图|学习笔记
快速学习10 PostgreSQL 表级复制-物化视图篇,支持异地,异构如 Oracle 到 pg 的物化视图
423 0
10 PostgreSQL 表级复制-物化视图篇, 支持异地,异构如 Oracle 到 pg 的物化视图|学习笔记
|
存储 SQL 缓存
PostgreSQL 复制原理及高可用集群(一)|学习笔记
快速学习 PostgreSQL 复制原理及高可用集群(一)
335 0
PostgreSQL 复制原理及高可用集群(一)|学习笔记
|
SQL 消息中间件 算法
14 PostgreSQL 表级复制-Londiste3哈希数据分区复制|学习笔记
快速学习14 PostgreSQL 表级复制-Londiste3哈希数据分区复制
127 0
14 PostgreSQL 表级复制-Londiste3哈希数据分区复制|学习笔记
|
SQL 消息中间件 存储
PostgreSQL 表级复制-Londiste3安装以及使用|学习笔记
快速学习 PostgreSQL 表级复制-Londiste3安装以及使用
303 0
PostgreSQL 表级复制-Londiste3安装以及使用|学习笔记