基于Nginx负载均衡方案

2020-05-25 00:00:00 配置 负载 路由 双机 四层

项目背景

公司一直使用商用负载均衡(LB),基于以下几点原因考虑用开源产品来替代:

  • 价格昂贵,HTTPS支持并发数太低
  • 技术门槛比较高,学习成本大
  • 技术Bug修复方面都太慢
  • 商用产品在新功能技术支持方面(如H2,protocol_proxy支持)滞后

技术选型

主要调研了lvs/haproxy/nginx这三种开源产品在四层负载方面功能特性,新LB方案水平扩展相对容易,选型阶段主要考察功能支持情况,情况如下:


综上,同时负载均衡主要业务对象是web类型,现有运维人员对nginx比较熟悉,终先把nginx做四层负载


方案设计

四层负载在前端,后端七层负载。四层负载主要负责对外暴露公网IP,七层负载主要业务规则重写。同时考虑多机房的容灾,架构设计如下:

上图主要做到以下组件冗余:

  • 机房A和机房B即可主备也可双主,避免单点
  • 四层接入方面,当OSPF发生故障,可以用Nginx做备用,直接指向L7服务器组
  • 双机房L7服务器组也可以同时提供服务,避免单点
  • 双机房L7服务器组配置保持同步,安装方式采用静态编译安装,复制考贝启动即可

相关配置

  • 网络相关配置
    • 服务器部分配置如下:
#OS基于Centos7,测试环境,生产环境根据实际情况修改
#安装路由软件
yum install quagga
#配置zebra
#cat /etc/quagga/zebra.conf
!
! Zebra configuration saved from vty
!   2017/09/28 15:57:12
!
hostname test-ssl-10-231.test.org #这个每台名字要不同
password 8 WuN0UOEsh./0U
enable password 8 g9UPXyneQv2n.
log file /var/log/quagga/zebra.log
service password-encryption
#配置ospfd
# cat /etc/quagga/ospfd.conf
hostname test-ssl-10-231.test.org #每台要不同
password 8 cQGHF4e9QbcA 
enable password 8 RBUKMtvgMhU3M
log file /var/log/quagga/ospfd.log
service password-encryption
!
!
!
interface eth2
 ip ospf authentication message-digest
 ip ospf message-digest-key 1 md5 pIW87ypU3d4v3pG7 #此处密码告知网络工程师
 ip ospf hello-interval 1
 ip ospf dead-interval 4
 ip ospf priority 

router ospf
 ospf router-id 10.10.41.130 #每台router-id要不一样
 log-adjacency-changes
 network 10.10.41.0/24 area .0.0.0
 network 10.10.100.100/32 area .0.0.0 #宣告自己的ospf互边地址和VIP地址,新增地址都在此处添加
 area .0.0.0 authentication message-digest
!
line vty
!

#启动服务
systemctl enable zebra.service
systemctl enable ospfd.service
systemctl start zebra.service
systemctl start ospfd.service
#添加ospf和zebra保活,打开配置文件打开如下行行
vim /etc/sysconfig/quagga
WATCH_DAEMONS="zebra ospfd"
######策略路由配置,eth0指向默认路由,在eth1模拟公网进行配置######
#cat /etc/iproute2/rt_tables增加
100 wan41
#增加路由表相关配置
ip route add 10.10.41.0/24 dev eth1 src 10.10.41.130 table wan41
ip route add default via 10.10.41.250 table wan41
ip rule add from 10.10.41.130 table wan41
持久化到配置文件
cat route-eth1
10.10.41.0/24 dev eth2 src 10.10.41.130 table wan41
default via 10.10.41.250 table 100
cat rule-eth1
from 10.10.41.130 table wan41
######策略路由配置结束######

相关文章