Corosync+pacemaker实现基于drbd分散式存储的mysql高可用集群

前提：
1.两台服务器HA1.coolinuz.com别名为HA1，HA2.coolinuz.com别名HA2
2.IP地址HA1:192.168.0.73，HA2:192.168.0.76
3.系统平台为：RHEL5.4 x86

准备工作：
1、修改本地的Hosts文件，使两节点能够互相解析：
[root@HA1 ~]# vim /etc/hosts

[root@HA1 ~]# scp /etc/hosts HA2:/etc/
2、建立双机互信，为后面的高可用集群两节点传递信息时所用
HA1：
[root@HA1 ~]# ssh-keygen -t rsa
[root@HA1 ~]# ssh-copy-id -i .ssh/id_rsa.pub HA2
在HA2上执行相同操作：
[root@HA2 ~]# ssh-keygen -t rsa
[root@HA2 ~]# ssh-copy-id -i .ssh/id_rsa.pub HA1
验证双机互信是否配置成功：

一、安装drbd
drbd共有两部分组成：内核模块和用户空间的管理工具。其中drbd内核模块代码已经整合进Linux内核2.6.33以后的版本中，因此，如果内核版本高于此版本的话，你只需要安装管理工具即可；否则，
需要同时安装内核模块和管理工具两个软件包，并且此两者的版本号一定要保持对应。这里笔者内核版本为2.6.18-164.el5，因此需要下载内核模块和用户空间的管理工具下载地址：http://mirrors.sohu.com/centos/5.6/extras/i386/RPMS/
1、安装drbd
Ps：所有的安装包我都存放在家目录下的tmp目录中：
[root@HA1 tmp]# yum localinstall -y --nogpgcheck drbd83-8.3.8-1.el5.centos.i386.rpm kmod-drbd83-8.3.8-1.el5.centos.i686.rpm 

2、配置drbd
复制样例配置文件到/etc下
[root@HA1 tmp]# cp /usr/share/doc/drbd83-8.3.8/drbd.conf /etc/
配置drbd全局配置参数
[root@HA2 ha]# vim /etc/drbd.d/global_common.conf

3、为drbd准备一块大小相同的分区，不要创建文件系统(不要格式化)
具体步骤不在赘述，笔者这里，在HA1上准备的是一块5G大小的分区，编号为/dev/sdb1，在HA2上准备的也是一块5G大小的分区，编号为/dev/sdb1

4、定义一个资源，内容如下：
[root@HA2 ha]# vim /etc/drbd.d/mysql.res

5、同步两节点的配置文件以及资源文件
[root@HA1 tmp]# scp -r /etc/drbd.* HA2:/etc/

6、初始化资源，在两节点上分别执行：
[root@HA1 ~]# drbdadm create-md mysql

7、启动服务，在两节点上分别执行：
[root@HA1 ~]# service drbd start
[root@HA2 ~]# service drbd start

8、查看启动状态：

9、将其中一个节点设置为Primary，在要设置为Primary的节点上执行如下命令：
[root@HA1 ~]# drbdadm -- --overwrite-data-of-peer primary mysql
观察同步过程：
[root@HA1 ~]# watch -n 1 'drbd-overview'

Ps：如果分区较大，同步的过程会需要较长一段时间。

10、在/dev/drbd0上创建文件系统
[root@HA1 ~]# mke2fs -j /dev/drbd0
[root@HA1 ~]# mkdir /mysql
[root@HA1 ~]# ssh HA2 mkdir /mysql
[root@HA1 ~]# mount /dev/drbd0 /mysql/

11、切换Primary和Secondary节点，确保drbd配置成功
[root@HA1 ~]# umount /mysql/
[root@HA1 ~]# drbdadm secondary mysql
[root@HA2 ~]# drbdadm primary mysql
[root@HA1 ~]# drbd-overview

[root@HA2 ~]# drbd-overview

二、安装Mysql
为简化实验的的复杂性，这里使用mysql解压安装版本
1、添加mysql的运行用户
[root@HA1 ~]# groupadd -r mysql
[root@HA1 ~]# useradd -g mysql -r -s /sbin/nologin mysql
HA2上执行同样的操作

2、将Primary和Secondary节点重新切换回来
[root@HA2 ~]# drbdadm secondary mysql
[root@HA1 ~]# drbdadm primary mysql
Ps:这一步不是必要的，只是习惯性喜欢将HA1设为Primary

3、创建mysql的数据目录
[root@HA1 ~]# mount /dev/drbd0 /mysql/
[root@HA1 ~]# mkdir /mysql/data
[root@HA1 ~]# chown -R mysql.mysql /mysql/data/

4、安装mysql
[root@HA1 tmp]# tar xvf mysql-5.5.24-linux2.6-i686.tar.gz -C /usr/local/
[root@HA1 tmp]# cd /usr/local/
[root@HA1 local]# ln -sv mysql-5.5.24-linux2.6-i686 mysql
[root@HA1 local]# cd mysql
[root@HA1 mysql]# cp support-files/my-large.cnf /etc/my.cnf
[root@HA1 mysql]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld
[root@HA1 mysql]# chkconfig --add mysqld
Ps：在节点HA2上执行同样的上述操作；
节点HA1：
[root@HA1 mysql]# chown -R mysql.mysql .
[root@HA1 mysql]# vim /etc/my.cnf

[root@HA1 mysql]# scp /etc/my.cnf HA2:/etc/
[root@HA1 mysql]# scripts/mysql_install_db --user=mysql --datadir=/mysql/data/

节点HA2：
[root@HA1 mysql]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld
[root@HA1 mysql]# chkconfig --add mysqld
[root@HA2 mysql]# chown -R root.mysql .
Ps：由于只有能在drbd的Primary节点上才能挂载，因此只在挂载了drbd的节点上进行初始化mysql；切勿两节点都进行初始化操作;

5、分别在两节点上启动Mysql，验证基于drbd的mysql是否均能启动
节点HA1：
[root@HA1 mysql]# service mysqld start

[root@HA1 mysql]# service mysqld stop
[root@HA1 mysql]# umount /mysql/
[root@HA1 mysql]# drbdadm secondary mysql

节点HA2：
[root@HA2 mysql]# drbdadm primary mysql
[root@HA2 mysql]# mount /dev/drbd0 /mysql/
[root@HA2 mysql]# service mysqld start

由此可见基于的drbd的mysql在两节点上启动均正常
取消drbd和Mysql的开启启动，将其定义为高可用集群的资源，并且停止其服务
# service mysqld stop
# umount /mysql
# service drbd stop
# chkconfig mysqld off
# chkconfig drbd off

三、安装corosync+pacemaker
安装corosync+pacemaker需要安装以下软件包：
cluster-glue、cluster-glue-libs、heartbeat、resource-agents、corosync、heartbeat-libs、pacemaker、corosynclib、libesmtp、pacemaker-libs
下载地址：http://clusterlabs.org/rpm/下载符合自己平台架构的软件包

1、安装这些软件包：
Ps:我将所有的软件包下载至ha目录中
[root@HA1 ha]# yum localinstall -y --nogpgcheck ./*.rpm
[root@HA2 ha]# yum localinstall -y --nogpgcheck ./*.rpm

2、配置corosync：
[root@HA1 ha]# cd /etc/corosync/
[root@HA1 corosync]# cp corosync.conf.example corosync.conf
[root@HA1 corosync]# vim /etc/corosync.conf

[root@HA1 corosync]# corosync-keygen         #生成集群节点之间认证的密钥
[root@HA1 corosync]# scp -p corosync.conf authkey HA2:/etc/corosync/            #为HA2节点提供相同的配置文件和密钥文件
[root@HA1 corosync]# mkdir /var/log/cluster
[root@HA1 corosync]# ssh HA2 mkdir /var/log/cluster

3、启动corosync
[root@HA1 corosync]# service corosync start
[root@HA1 corosync]# ssh HA2 service corosync start

[root@HA1 corosync]# grep -e "Corosync Cluster Engine" -e "configuration file" /var/log/cluster/corosync.log 
#查看服务是否正常启动

[root@HA1 corosync]# grep TOTEM /var/log/cluster/corosync.log 
#查看初始化成员节点通知是否正常发出

[root@HA1 corosync]# grep pcmk_startup /var/log/cluster/corosync.log
#查看pacemaker是否正常启动

节点HA1启动正常，同样方法检测节点HA2启动是否正常

[root@HA1 corosync]# crm status
#查看集群节点的启动情况

2、定义drbd资源，接受corosync的调度
crm(live)configure# primitive drbd0 ocf:linbit:drbd params drbd_resource=mysql op monitor role=Master interval=50s timeout=30s op monitor role=Slave interval=60s timeout=30s op start timeout=240s op stop timeout=100s
crm(live)configure# verify 
crm(live)configure# commit
crm(live)configure# ms MS-drbd drbd0 meta master-max="1" master-node-max="1" clone-max="2" clone-node-max="1" notify="true"crm(live)configure# verify 
crm(live)configure# commit
crm(live)# status

3、定义文件系统资源
crm(live)configure# primitive FS ocf:heartbeat:Filesystem params device=/dev/drbd0 directory=/mysql fstype=ext3 op start timeout=60s op stop timeout=60s
crm(live)configure# verify 
crm(live)configure# commit 
crm(live)# status

4、定义mysql为一个资源，接受corosync的调度
crm(live)configure# primitive Mysql-server lsb:mysqld 
crm(live)configure# verify 
crm(live)configure# commit 
crm(live)# status

Mysql启动失败，因为drbd的Primary节点在HA1上挂载，mysql在节点HA2上启动自然启动不起来

5、设置资源约束，规定启动顺序
crm(live)configure# colocation drbd-fs-mysql INFINITY: MS-drbd FS Mysql-server 
#定义资源约束，将所有资源捆绑在一起，使其只能处于一个节点上，此处也可以讲这三个资源定义为一个group，同样可以实现colocation的效果
crm(live)configure# verify 
crm(live)configure# commit
crm(live)configure# order drbd-fs-mysql-after mandatory: MS-drbd FS Mysql-server 
#定义启动顺序：DRBD资源，文件系统资源，Mysql服务资源
crm(live)configure# verify 
crm(live)configure# commit
crm(live)configure# show

crm(live)configure# status

6、测试资源流转
[root@HA1 corosync]#[root@HA2 ha]#