keepalived高可用
第1章 keepalived介绍
keepalived
软件起初是专为LVS负载均衡软件设计的,用来管理并监控LVS集群系统中各个服务节点状态,后来又加入了可以实现高可用的VRRP功能.此,keepalived除了能够管理LVS软件外,还可以作为其他服务(例如:Nginx,Haproxy,MySQL等)的高可用解决方案软件.
keepalived
软件主要是通过VRRP
协议实现高可用功能的.VRRP
是Virtual Router Redundancy
Protocol(虚拟路由器冗余协议)的缩写,VRRP出现的目的就是为了解决静态路由单点故障问题的,他能够保证当个别节点宕机时,整个网络可以不间断地运行.Keepalived一方面具有配置管理LVS的功能,同时还具有对LVS下面节点进行健康检查的功能,另一方面也可实现系统网络服务的高可用功能,
第2章 keepalived服务的重要功能
2.1 作为系统网络服务的高可用功能(failover)
keepalived
可以实现任意两台主机之间,例如Master和Backup主机之间的故障转移和自动切换,这个主机可以使普通的不能停机的业务服务器,也可以是LVS负载均衡,Nginx反向代理这样的服务器.
keepalived
高可用功能实现的基本原理为:
两台主机同时安装好keepalived软件并启动服务,开始正常工作时
角色为Master的主机获得所有资源并对用户提供服务
角色为Backup的主机作为Master主机的热备;
当角色为Master的主机失效或出现故障时
角色为Backup的主机将自动接管Master主机的所有工作,包括接管VIP资源及相应资源服务
而当角色为Master的主机故障修复后,又会自动接管回他原来处理的工作
角色为Backup的主机则同时释放Master主机失效时他接管的工作
此时,两台主机将恢复到启动时各自的原始角色及工作状态
2.2 什么是VRRP
VRRP
,全称Virtual Router Redundancy Protocol
,中文名为虚拟路由冗余协议
VRRP
的出现就是为了解决静态路由的单点故障问题
VRRP
是通过一种竞选机制来将路由的任务交给某台VRRP路由器的.
VRRP
通过竞选机制来实现虚拟路由器的功能,所有的协议报文都是通过IP多播(Multicast)包(默认的多播地址224.0.0.18
)形式发送的
虚拟路由器由VRID(范围0-255)和一组IP地址组成,对外表现为一个周知的MAC地址,:00-00-5E-00-01-{VRID}.
所以,在一个虚拟路由器中,不管谁是Master,对外都是相同的MAC和IP(称之为VIP).
客户端主机并不需要因Master的改变修改自己的路由配置.对它们来说,这种切换是透明的.
在一组虚拟路由器中,只有作为Master的VRRP路由器会一直发送VRRP广播包,此时Backup不会抢占Master
当Master不可用时,Backup就收不到来自Master的广播包了,此时多台Backup中优先级最高的路由器会抢占为Master.
这种抢占是非常快速的(可能只有1秒甚至更少),以保证服务的连续性,处于安全性考虑,VRRP数据包使用了加密协议进行了加密.
2.3 面试的时候怎么说
keepalived
高可用对之间是通过VRRP
通信的,因此,我从VRRP开始给您讲起.
- 1)VRRP,全称Virtual Router Reduancy Protocol,中文名为虚拟路由器冗余协议,VRRP的出现是为了解决静态路由的单点故障,
- 2)VRRP是通过一种竞选协议来将路由任务交给某台VRRP路由器的,
- 3)VRRP用IP多播的方式,(默认多播地址(
224.0.0.18
))实现高可用对之间通信. - 4)工作时主节点发包,备节点接包,当备节点接收不到主节点发的包的时候,就启动接管程序接管主节点的资源.备节点可以有多个,通过优先级竞选,但一般keepalived系统运维工作中都是一对.
- 5)VRRP使用了加密协议加密数据,但keepalived官方目前还是推荐用明文的方式配置认证类型和密码.
介绍完了VRRP,接下来我在介绍一下keepalived服务的工作原理;
keepalived高可用对之间是通过VRRP进行通信的,VRRP是通过竞选机制来确定主备的,主的优先级高于备,因此,工作时会优先获得所有的资源,备节点处于等待状态,当主挂了的时候,备节点就会接管主节点的资源,然后顶替主节点对外提供服务.
在keepalived服务对之间,只有作为主的服务器会一直发送VRRP广播包,告诉备他还活着,此时备不会抢占主,当主不可用时,即备监听不到主发送的广播包时,就会启动相关服务接管资源,保证业务的连续性,接管速度最快可以小于一秒
第3章 keepalived高可用服务搭建准备
3.1 安装keepalived环境说明
这里使用前面已经搭建完成的Nginx负载均衡的系统环境来安装Keepalived服务,因为后面的实战案例是实现Nginx负载均衡的高可用案例.
安装Keepalived的基础准备环境如下:
准备5台物理服务器两台做Keepalived服务,3台做测试的web节点
Keepalived高可用实验环境准备
主机名 | IP地址 | 说明 |
---|---|---|
lb01-5 | 10.0.1.5 | Keepalived主服务器(Nginx主负载均衡器) |
lb02-6 | 10.0.1.6 | Keepalived备服务器(Nginx备负载均衡器) |
web01 | 10.0.1.7 | web01服务器 |
web02 | 10.0.1.8 | web02服务器 |
web03 | 10.0.1.9 | web03服务器 |
3.2 安装keepalived软件
注意:lb01和lb02都需要安装
1 | [root@lb01-5 ~]# yum install keepalived -y |
3.3 启动keepalived服务并检查
1 | [root@lb01-5 ~]# systemctl start keepalived |
3.4 keepalived配置文件说明
和其他yum安装的软件一样,keepalived软件的配置文件默认路径及配置文件名为:
1 | [root@lb01-5 ~]# rpm -qc keepalived |
这里的具备高可用功能keepalived.conf配置文件包含了两个重要区块,下面分别说明:
(1)全局变量(Global Definitions)部分
这部分主要用来设置keepalived的故障通知机制和Router ID标识.示例配置如下:
1 | [root@lb01-5 /etc/keepalived]# cat keepalived.conf.bak -n |
基础参数说明:
- 第1行是注释,!开头和#号开头一样,都是注释
- 第2行是空行
- 第3行~8行是定义故障服务报警的Email地址.作用是服务发生切换或RS节点等有故障时,需要发送的Email地址,可以有多个,每行一个.
- 第9行是制定发送邮件的发送人,即发送人地址,也是可选配置
- 第10行smtp_server指定发送邮件的smtp服务器,如果本机开启了sendmail或postfix.就可以使用上面默认配置实现邮件发送,也是可选配置.
- 第11行smtp_connect_timeout是连接smtp的超时时间,也是可选配置
- 第12行是Keepalived服务器的路由标识{route_id}.在一个局域网内,这个标识{route_id}应该是唯一的.
- 大括号{}.用来区分区块,要成对出现.如果楼写了半个大括号,keepalived运行时,不会报错,但是也不会得到预期的结果.另外,由于区块间存在多层嵌套关系,因此很容易遗漏区块结尾处的大括号,需要特别注意.
(2)VRRP实例定义区域(VRRP instance(s))部分.
这部分主要用来定义具体服务实例配置,包括Keepalived主备状态,接口,优先级,认证方式和IP信息等,配置如下:
1 | 19 vrrp_instance VI_1 { |
参数说明:
第19行表示定义一个vrrp_instance实例,名字为VI_1,每个vrrp_instance实例可以认为是Keepalived服务的一个实例或者作为一个业务服务,在Keepalived服务配置中,这样的vrrp_instance实例可以有多个.注意,存在于主节点中的vrrp_isntance实例在备节点也要存在,这样才能实现故障切换接管.
第20行state MASTER表示当前示例VI_1的角色状态,当前角色为MASTER,这个状态只能有MASTER和BACKUP两种状态,并且需要大写这些字符.其中MASTER为正式工作的状态,BACKUP为备用的状态.当MASTER所在的服务器故障或失效时,BACKUP所在的服务器会接管故障的MASTER继续提供服务.
第21行interface为网路通信接口.为对外提供服务的网络接口,如eth0,eth1当前主流的服务器都有2~4个网络接口,在选择服务接口时,要搞清楚.
第22行virtual_router_id为虚拟路由ID标识,这个标识最好是一个数字
第23行priority为优先级,其后面的数值也是一个数字,数字越大,表示实例优先级越高.在同一个vrrp_instance实例里,MASTER的优先级配置要高于BACKUP的.若MASTER的priority值为150,那么BACKUP的priority必须小于150,一般建议隔50以上为佳.
第24行advent_int为同步通知间隔.MASTER与BACKUP之间通信检查的时间间隔,默认为1秒.
第25-27行authentication为权限认证配置.包含认证类型(auth_type)和认证密码(auth_pass)认证类型有PASS(simple passwd),AH(IPSEC)两种,官方推荐使用的类型为PASS.验证密码为明文方式,最好长度不能超过8个字符,建议四位数字,同一vrrp实例的MASTER与BACKUP使用相同的密码才能正常通信.
第29-32行virtual_ipaddress为虚拟IP地址.可以配置多个IP地址,每个地址占一行,配置时最好明确指定子网掩码以及虚拟IP绑定的网络接口.否则,子网掩码默认是32位,绑定的接口和前面的interface参数配置的一致.注意,这里的虚拟IP就是在工作中需要和域名绑定的IP,即和配置的高可用服务监听的IP要保持一致.
第4章 配置keepalived实现单IP自动漂移接管
实际上可以将高可用对的两台机器应用服务同时开启,但是只让VIP一段的服务器提供服务,若主的服务器宕机,VIP会自动漂移到备用服务器,此时用户的请求直接发送到备用服务器上,而无须临时启动对应服务(事先开启应用服务).下面来讲解VIP自动漂移实战案例.
4.1 实战配置keepalived主服务器lb01 MASTER
1 | [root@lb01-5 /etc/keepalived]# cat keepalived.conf |
配置完毕后,启动keepalived服务,如下:
1 | [root@lb01-5 /etc/keepalived]# systemctl start keepalived |
然后检查配置结果,查看是否有虚拟IP 10.0.0.3
1 | [root@lb01-5 /etc/keepalived]# ip addr|grep 10.0.1.3 |
出现上述带有vip:10.0.0.3行的结果表示lb01的keepalived服务单实例配置成功.
4.2 实战配置keepalived备服务器lb02 BACKUP
1 | [root@lb02-6 ~]# cat /etc/keepalived/keepalived.conf |
配置完毕,启动keepalived服务
1 | [root@lb02-6 ~]# systemctl start keepalived |
然后检查配置结果,查看是否有虚拟IP 10.0.0.3
1 | [root@lb02-6 ~]# ip addr|egrep 10.0.1.3 |
这里没有返回任何结果就对了,因为lb02为BACKUP,当主节点活着的时候,他不会接管VIP 10.0.1.3
出现上述无任何结果的现象,表示lb02的keepailved服务单实例配置成功.如果lv02的配置过滤后有10.0.1.3的IP,则表示keepalived工作不正,同一个IP地址同一时刻应该只能出现在一台服务器上.
如果查看BACKUP备节点VIP有,说明高可用裂脑了,裂脑是两台服务器争抢统一资源导致的,例如:两边都配置了同一个VIP地址.
4.3 出现裂脑后的排查
出现上述两台服务器争抢同一IP资源问题,一般要先考虑排查两个地方:
(1)主备两台服务器之间是否通讯正常,如果不正常是否有iptables防火墙阻挡?
(2)主备两台服务器对应的keepalived.conf配置文件是否有错误?例如是否同一实例的virtual_router_id配置不一样.
4.4 进行高可用主备服务器切换
停掉主服务器上的keepalived服务或关闭主服务器,操作并检查步骤
1 | [root@lb01-5 /etc/keepalived]# ip addr|grep 10.0.1.3 |
可以看到VIP 10.0.0.3消失了,此时查看BACKUP备服务器,看是否会有VIP 10.0.0.3出现,操作及检查步骤如下:
1 | [root@lb02-6 ~]# ip addr|grep 10.0.1.3 |
可以看到备节点lb02已经接管绑定了10.0.1.3这个VIP,这期间备节点还会发送ARP广播,让所有的客户端更新本地的ARP表,以便客户端访问接管VIP服务的节点.
此时如果再启动主服务器的keepalived服务,主服务器就会接管回VIP 10.0.1.3启动后可以观察下主备的IP漂移情况,备服务器是否释放了IP?主服务器是否又接管了IP ?
主节点启动keepalived服务后,发现很快就又接管了VIP 10.0.1.3,操作及检查步骤如下:
1 | [root@lb01-5 /etc/keepalived]# systemctl start keepalived.service |
与此同时,备节点上的VIP 10.0.0.3则被释放了,如下:
1 | [root@lb02-6 ~]# ip addr|grep 10.0.1.3 |
4.5 单实例主备模式keeplibed配置文件对比
可以看到,上述keepalived单实例MASTER和BACKUP节点的配置差别项,只有3项是不同的
Keepalived配置参数 | MASTER节点特殊参数 | BACKUP节点特殊参数 |
---|---|---|
router_id(唯一标识) | router_id lb01 | router_id lb02 |
state(角色状态) | state MASTER | state BACKUP |
priority(竞选优先级) | priority 100 | priority 50 |
第5章 keepalived高可用服务器的裂脑问题
5.1 什么是裂脑
由于某些原因,导致两台高可用服务器对在指定时间内,无法检测到对方的心跳消息,各自取得资源及服务
的所有权,而此时的两台高可用服务器都还活着并在正常运行,这样就会导致同一个IP或服务在两端同时
存在而发生冲突,最严重的是两台服务器占用同一个VIP地址,当用户写入数据时可能会分别写入到两端,
这可能会导致服务器两端的数据不一致或造成数据丢失,这种情况就被成为裂脑.
5.2 导致裂脑发生的原因
一般来说,裂脑的发生,有以下几种原因
高可用服务器对之间心跳线链路发生故障,导致无法正常通信
心跳线坏了(包括断了,老化)
网卡及相关驱动坏了,IP配置及冲突问题(网卡直连)
心跳线之间连接的设备故障(网卡及交换机)
仲裁的机器出问题了(采用总裁的方案)
高可用服务器上开启了iptables防火墙阻挠了心跳信息传输
高可用服务器上心跳网卡地址等信息配置不正确,导致发送心跳失败
其他服务配置不当等原因,如心跳方式不同,心跳广播冲突,软件bug等.
5.3 解决裂脑的常见方法
在实际成产环境中,我们可以从以下几个方面来防止裂脑问题发生:
同时使用串行电缆和以太网电缆连接,同时用两条心跳线,这样一条线路坏了,另一个还是好的,依然能传送心跳信息.
当检测到裂脑时强行关闭一个心跳节点(这个功能需要特殊设备支持,如stonith,fence)相当于备节点接收不到心跳信息,通过单独的线路发送命令关闭主节点的电源.
做好对裂脑的监控报警(如邮件及手机短信等或值班),在问题发生时人为第一时间介入仲裁,降低损失.
5.4 解决keepalived裂脑的常见方案
作为互联网应用服务器的高可用,特别是前端web负载均衡器的高可用,裂脑的问题对普遍业务的影响是可容忍的,如果是数据库或者存储的业务,一般出现裂脑问题就非常严重了.因此,通过增加冗余心跳线来避免裂脑问题发生,同时加强了对系统的监控.
如果开启防火墙,一定要让心跳消息通过.一般通过允许IP段的形式解决
可以拉一条以太网网线或者串口线作为主备节点心跳线路的冗余
开发检测程序通过监控软件检测裂脑,如zabbix检测如果主备都有VIP就报警.
比较严谨的判断,备节点出现对应VIP,并且主节点及对应服务(如果能远程连接主节点看是否有VIP就更好了)还活着,就说明发生裂脑了.
具体监控系统裂脑的脚本见文章结尾”开发检测keepalived裂脑的脚本”
5.5 模拟keepalived裂脑场景
抓包
1 | tcpdump -nn -c 20 -i any host 224.0.0.18 |
开启防火墙 firewalld
1 | [root@lb02-6 ~]# firewall-cmd --direct --permanent --add-rule ipv4 filter INPUT 0 --in-interface eth0 --destination 224.0.0.18 --protocol vrrp -j ACCEPT |
iptables
1 | iptables -I INPUT -i eth0 -d 224.0.0.0/8 -p vrrp -j ACCEPT |
再次抓包查看
1 | tcpdump -nn -c 20 -i any host 224.0.0.18 |
第6章 Nginx负载均衡配合keepalived双主模式实战
结合前面介绍的Nginx负载均衡的环境,调整好住负载均衡器lb01,备用负载均衡器lb02服务器上Nginx负载均衡环境,两台服务器的安装基础环境一模一样.
主机名 | IP地址 | 说明 |
---|---|---|
lb01-5 | 10.0.1.5 | VIP:10.0.1.2(用于绑定A服务www.oldboy.com域名) |
lb02-6 | 10.0.1.6 | VIP:10.0.1.3(用于绑定B服务zh.oldboy.com域名) |
web01-7 | 10.0.1.7 | Nginx web服务器1 |
web02-8 | 10.0.1.8 | Nginx web 服务器2 |
6.1 配置keepalived双主
lb01配置
1 | [root@lb01-5 /etc/keepalived]# cat keepalived.conf |
lb02配置
1 | [root@lb02-6 ~]# cat /etc/keepalived/keepalived.conf |
6.2 Nginx负载均衡
1 | [root@lb01-5 /etc/nginx/conf.d]# cat 01-www.conf |
6.3 重启nginx和keepalived
1 | systemctl restart keepalived |
6.4 配置windows解析
1 | 10.0.1.3 blog.oldboy.com |
6.5 访问测试
6.6 模拟keepalived故障
此时停掉lb01服务器或停止keepalived服务器,观察结果是否正常
然后观察lb02备点是否接管了VIP 10.0.1.3
1 | [root@lb01-5 ~]# systemctl stop keepalived.service |
6.7 恢复lb01的keelived服务
查看是否恢复正常
1 | [root@lb01-5 ~]# systemctl start keepalived.service |
第7章 开发监控keepalived裂脑的脚本
检测思路,VIP什么时候 什么条件 才会飘走
由于某些原因,导致两台 keepalived 高可用服务器在指定时间内,无法检测到对方的心跳消息,各自取得资源及服务的所有权,而此时的两台高可用服务器又都还活着。
服务器网线松动等网络故障
服务器硬件故障发生损坏现象而崩溃
主备都开启 firewalld 防火墙
Nginx 服务死掉等
7.1 lb01检查web脚本
1 | [root@lb01-5 ~]# mkdir /server/scripts -p |
keepalived配置:
1 | [root@lb01-5 /server/scripts]# cat /etc/keepalived/keepalived.conf |
7.2 lb02脚本
检查vip脚本
1 | [root@lb02-6 ~]# mkdir /server/scripts -p |
keepalived配置:
1 | [root@lb02-6 /server/scripts]# cat /etc/keepalived/keepalived.conf |