LVS+Keepalived高可用群集

  1. 云栖社区>
  2. 博客>
  3. 正文

LVS+Keepalived高可用群集

余二五 2017-11-08 22:42:00 浏览568
展开阅读全文

    keepalived是专门针对LVS设计的一款强大的辅助工具,主要用来提供故障切换和健康检查功能——判断LVS负载调度器,节点服务器的可用性,及时隔离并替换为新的服务器,当故障主机恢复后将其重新加入群集。


Keepalived的热备方式

    Keepalived采用VRRP(虚拟路由冗余协议)热备份协议,以软件的方式实现Linux服务器的多机热备功能。VRRP是针对路由器的一种备份解决方案——有多台路由组成一个热备组,通过共用的虚拟IP地址对外提供服务;每个热备组内同一时刻只有一台主路由器提供服务 ,其他路由器处于冗余状态,若当前在线路由器失败,则其他路由器会自动接替(优先级决定接替顺序)虚拟IP地址,以继续提供服务。如下图所示:

杨书凡07.png

    热备组内的每台路由器都有可能成为主路由器,虚拟路由器的IP地址可以在热备组内的路由器之间进行转移,所以也称为漂移IP地址。使用keepalived时,漂移地址的实现不需要手动建立虚接口配置文件,而是由keepalived根据配置文件自动管理。


                                     


LVS+Keepalived高可用群集

    Keepalived的设计目标是构建可用的LVS负载均衡群集,可以调用ipvsadm工具来创建虚拟服务器,管理服务器池,而不仅仅用来做双机热备。使用keepalived构建LVS群集更加简便易用,主要优势体现在:对LVS负载调度器实现热备切换,提高可用性,对服务器池中的节点进行健康检查,自动移除失效节点,恢复后再重新加入。

    在基于LVS-Keepalived实现的LVS群集结构中,至少包括两台热备的负载调度器,两台以上的节点服务器,本例将以DR模式的LVS群集为基础,增加一台从负载调度器,使用Keepalived来实现主、从调度器的热备,从而构建建有负载均衡、高可用两种能力的LVS网站群集平台。如下面案例图所示:

   使用Keepalived构建LVS群集时,也需要用到ipvsadm管理工具,但大部分工作会由Keepalived自动完成,不需要手动执行ipvsadm。


实验案例:

    公司的Web平台已采用LVS-DR负载均衡结构,但只有一个负载均衡器。为了提高Web服务的持续可用性,要求增加一台负载调度器,与原有的调度器实现双击热备,并要求能自动管理服务器池,而不是由管理员手动添加、移除节点,如下图所示:

杨书凡08.png

需求描述:

1. 将现有的LVS群集改造为LVS+Keepalived高可用负载均衡群集

2. 主调度器负则分配客户机请求,若出现故障则由从调度器自动接替服务

3. 启用邮件通知功能,以便及时了解各Web节点服务器的健康状况


实验步骤如下:

    此实验是在上篇博客的LVS-DR基础上新增一个从调度器,参考文档http://blog.51cto.com/yangshufan/2065686

1. 配置主调度器

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
[root@localhost ~]# service ipvsadm stop        //清除原有的ipvsadm策略
ipvsadm: Clearing the current IPVS table:                  [确定]
ipvsadm: Unloading modules:                                [确定]
[root@localhost ~]# ipvsadm -ln                 //确认清空
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
[root@localhost ~]# rm -f /etc/sysconfig/network-scripts/ifcfg-eth0:0   //删除网卡eth0:0
[root@localhost ~]# ifconfig 
eth0      Link encap:Ethernet  HWaddr 00:0C:29:1C:B4:FB  
          inet addr:172.16.16.173  Bcast:172.16.16.255  Mask:255.255.255.0
 
eth1      Link encap:Ethernet  HWaddr 00:0C:29:1C:B4:05  
          inet addr:192.168.7.173  Bcast:192.168.7.255  Mask:255.255.255.0
 
[root@localhost ~]# yum -y install kernel-devel openssl-devel popt-devel  //安装支持软件
[root@localhost ~]# tar zxf keepalived-1.2.13.tar.gz -C /usr/src/
[root@localhost ~]# cd /usr/src/keepalived-1.2.13/
[root@localhost keepalived-1.2.13]# ./configure --prefix=/      //安装路径指定为根目录,这样就无需额外创建链接文件
--with-kernel-dir=/usr/src/kernels/2.6.32-431.el6.x86_64        //只有在使用LVS时,才需要指定此参数
[root@localhost keepalived-1.2.13]# make && make install
[root@localhost keepalived-1.2.13]# chkconfig --add keepalived    //添加为系统服务
[root@localhost keepalived-1.2.13]# chkconfig keepalived on       //设置为开机自启动
 
[root@localhost keepalived-1.2.13]# cd /etc/keepalived/
[root@localhost keepalived]# cp keepalived.conf keepalived.conf.bak    //备份配置文件
[root@localhost keepalived]# vim keepalived.conf               //修改配置文件
global_defs {                          //此区域指定全局参数
   notification_email {                //邮件服务
     root@firewall.loc                 //收件人地址
   }
   notification_email_from ysf localhost.localdomain      //发件人姓名、地址
   smtp_server 127.0.0.1
   smtp_connect_timeout 30
   router_id LVS-1                     //本服务器的名称
}
 
vrrp_instance VI_1 {                  //此区域指定VRRP热备参数
    state MASTER                  //热备状态,MASTER表示为主服务器
    interface eth0                //承载VIP地址的物理接口
    virtual_router_id 51          //虚拟路由器的ID号,每个热备组必须保持一致
    priority 100                  //优先级,数值越大,优先级越高
    advert_int 1                  //通告间隔秒数(心跳频率)
    authentication {              //认证信息,每个热备组必须保持一致       
        auth_type PASS            //认证类型
        auth_pass 1111            //密码字串
    }
    virtual_ipaddress {
        172.16.16.172             //指定漂移地址(VIP),可以有多个
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
#下面区域用来配置虚拟服务器
virtual_server 172.16.16.172 80 {         //虚拟服务器地址(VIP)、端口
    delay_loop 6                          //健康检查的间隔秒数(秒)
    lb_algo rr                            //轮询(rr)调度算法
    lb_kind DR                            //直接路由(DR)集群工作模式
    nat_mask 255.255.255.0       
    persistence_timeout 50                //连接保持秒数
    protocol TCP                          //应用服务采用TCP协议
 
    real_server 172.16.16.177 80 {        //第一个Web节点的地址、端口
        weight 1                          //节点的权重
        TCP_CHECK {                       //健康检查方式
            connect_port 80               //检查的目标端口
            connect_timeout 3             //连接超时(秒)
            nb_get_retry 3                //重试次数
            delay_before_retry 3          //重试间隔(秒)
        }
    }
    real_server 172.16.16.178 80 {        //第二个Web节点的地址、端口   
       ……                               //和第一个的配置相同,省略
    }
    real_server 172.16.16.179 80 {        //第三个Web节点的地址、端口 
       ……   
    }
    real_server 172.16.16.180 80 {        //第四个Web节点的地址、端口   
       …… 
    }
}    
     
[root@localhost keepalived]# /etc/init.d/keepalived start
正在启动 keepalived:                                      [确定]    
 
[root@localhost keepalived]# ip addr show dev eth0       //查看自动添加的VIP地址
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:1c:b4:fb brd ff:ff:ff:ff:ff:ff
    inet 172.16.16.173/24 brd 172.16.16.255 scope global eth0
    inet 172.16.16.172/32 scope global eth0              //自动设置的VIP地址
    inet6 fe80::20c:29ff:fe1c:b4fb/64 scope link 
       valid_lft forever preferred_lft forever
 
[root@localhost keepalived]# ipvsadm -ln            //自动创建虚拟服务器,添加服务器节点
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  172.16.16.172:80 rr
  -> 172.16.16.178:80             Route   1      0          0         
  -> 172.16.16.179:80             Route   1      0          0         
  -> 172.16.16.180:80             Route   1      0          0



2. 配置从调度器

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
[root@localhost ~]# ifconfig 
eth0      Link encap:Ethernet  HWaddr 00:0C:29:1C:B4:4D  
          inet addr:172.16.16.174  Bcast:172.16.16.255  Mask:255.255.255.0
 
eth1      Link encap:Ethernet  HWaddr 00:0C:29:1C:B4:05  
          inet addr:192.168.7.174  Bcast:192.168.7.255  Mask:255.255.255.0
           
[root@localhost ~]# modprobe ip_vs          
[root@localhost ~]# yum -y install kernel-devel openssl-devel popt-devel          
[root@localhost ~]# yum -y install ipvsadm          
[root@localhost ~]# tar zxf keepalived-1.2.13.tar.gz -C /usr/src/
[root@localhost ~]# cd /usr/src/keepalived-1.2.13/
[root@localhost keepalived-1.2.13]# ./configure --prefix=/      
--with-kernel-dir=/usr/src/kernels/2.6.32-431.el6.x86_64       
[root@localhost keepalived-1.2.13]# make && make install
[root@localhost keepalived-1.2.13]# chkconfig --add keepalived    
[root@localhost keepalived-1.2.13]# chkconfig keepalived on       
 
[root@localhost ~]# cd ~             //从服务器的配置文件可从主服务器中复制
[root@localhost ~]# scp root@172.16.16.173:/etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf 
root@172.16.16.173's password: 
keepalived.conf                                                         100% 1378     1.4KB/s   00:00  
[root@localhost ~]# vim /etc/keepalived/keepalived.conf    //修改其中的三项
   router_id LVS-2                     //从调度器的名称
    state BACKUP                       //从调度器的热备状态
    priority 50                        //从调度器的优先级
 
[root@localhost keepalived]# /etc/init.d/keepalived start
正在启动 keepalived:                                      [确定]



3. 配置Web节点服务器

    本实验是基于上篇实验配置的,Web节点服务器的配置不用修改,参考文档http://blog.51cto.com/yangshufan/2065686


4. LVS+Keepalived集成测试

(1)禁用主调度器的eth0网卡,3分钟后重新启用,确认主从热备正常

(2)禁用Web服务器池的一部分节点,确认对Web群集的访问仍然正常

(3)查阅通知邮件内容

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
[root@localhost ~]# less /var/spool/mail/root
From ysf@localhost.localdomain  Wed Jan 31 05:51:02 2018
Return-Path: <ysf@localhost.localdomain>
X-Original-To: root@localhost.localdomain
Delivered-To: root@localhost.localdomain
Received: from localhost (localhost [127.0.0.1])
        by localhost.localdomain (Postfix) with SMTP id 05C61422BA
        for <root@localhost.localdomain>; Wed, 31 Jan 2018 05:51:01 +0800 (CST)
Date: Tue, 30 Jan 2018 21:51:02 +0000
From: ysf@localhost.localdomain
Subject: [LVS-1] Realserver [172.16.16.177]:80 - DOWN
X-Mailer: Keepalived
To: root@localhost.localdomain
Message-Id: <20180130215102.05C61422BA@localhost.localdomain>
 
=> TCP CHECK failed on service <=
 
 
...skipping...
From ysf@localhost.localdomain  Wed Jan 31 05:51:02 2018
Return-Path: <ysf@localhost.localdomain>
X-Original-To: root@localhost.localdomain
Delivered-To: root@localhost.localdomain
Received: from localhost (localhost [127.0.0.1])
        by localhost.localdomain (Postfix) with SMTP id 05C61422BA
        for <root@localhost.localdomain>; Wed, 31 Jan 2018 05:51:01 +0800 (CST)
Date: Tue, 30 Jan 2018 21:51:02 +0000
From: ysf@localhost.localdomain
Subject: [LVS-1] Realserver [172.16.16.177]:80 - DOWN
X-Mailer: Keepalived
To: root@localhost.localdomain
Message-Id: <20180130215102.05C61422BA@localhost.localdomain>
 
=> TCP CHECK failed on service <=










本文转自 杨书凡 51CTO博客,原文链接:http://blog.51cto.com/yangshufan/2067083,如需转载请自行联系原作者

网友评论

登录后评论
0/500
评论