如何利用Nginx实现动态负载均衡

2020-05-25 00:00:00 服务 配置 接口 权重 负载均衡

为什么用Nginx

Nginx是经过实践证明的、安全稳定的反向代理服务器,淘宝、新浪等大型互联网公司都有Nginx的身影。Nginx经过线上各种网络环境验证,能够帮你隔离各种复杂的网络环境,轻松支持10000+的同时在线连接数,同时拥有多种成熟的负载均衡策略,能够方便横向拓展后端服务。今天我们说一说Nginx负载均衡策略。

Nginx有以下几种负载均衡策略

1、基于轮询方式

轮询是基本的配置方法,它是upstream模块默认的负载均衡默认策略。每个请求会按时间顺序逐一分配到不同的后端服务器。

2、依据IP(ip_hash)分配

指定负载均衡器按照基于客户端IP的分配方式,这个方法确保了相同的客户端的请求一直发送到相同的服务器,以保证session会话。这样每个访客都固定访问一个后端服务器,可以解决session不能跨服务器的问题。

3、基于权重(weight)分配

每个upstream下服务会有一个权重(weight)配置,这个权重就是请求派发的概率,权重越大请求派发给服务的机会越大,可以根据服务资源情况分配权重。

4、少连接(least_conn)方式

把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端,使它们的负载大致相同;但是有些请求占用的时间很长,会导致其所在的后端负载较高,这种情况下少连接方式分配方式就可以达到更好的负载均衡效果。

当我们修改Nginx配置时可以在不停机的情况下执行命令(nginx -s reload)更新应用配置,这让在不修改Nginx源码情况下通行修改配置文件实现动态调整负载均衡提供了可能。今天重点介绍一下基于Nginx权重分配的动态负载均衡架构实现,系统结构如下面所示。


在这个架构中每个服务需提供以下通用接口
1、服务接口配置查询接口

每个服务可配置自身接口访问控制信息,比如启用哪些接口、禁用哪些接口以及接口分组等配置。

2、资源使用情况查询接口

每个服务提供接口查询所在服务器以及自身资源使用情况,比如CPU、内存、磁盘等使用情况。

监控服务会定期查询每个服务的资源使用情况以及接口配置。如资源使用率过高、内存不足、网络延迟越久则权重越小,同时监控服务还可以实现异常服务告警功能,配置每个服务默认权重,终监控服务会根据这些信息计算出每个服务接口的权重信息,同时监控服务会提供接口来查询服务权重信息。Nginx运行用户下会部署一个配置文件更新程序,这个程序会定时到监控服务查询具体服务接口权重信息,当发现权重信息有变化时会更新Nginx配置,然后执行命令(nginx -s reload)更新应用负载均衡配置信息。

上述负载均衡系统应注意以下问题

  • 正常情况下整个系统的负载均衡应该是相对稳定,如果负载均衡配置变动太频繁会导致Nginx不稳定,但服务器CPU使用情况是波动的,这就要求监控服务负载均衡算法不能对CPU使用率太过敏感,生产上CPU使用率可以定50%、80%、90%几个权重梯度,只有突破新梯度时权重才会发生变化。
  • 为保证系统高可用性,负载均衡权重有变化时应先备份现有Nginx配置文件,然后再更新Nginx配备文件,更新失败可以回退配置文件。

相关文章