Kubernetes的负载均衡方案：MetalLB

一. 产品介绍

在Kubernetes部署完成服务后，我们经常需要将服务开放给到外部用户访问 。如果是使用云平台（阿里云、腾讯云、AWS等）的话，这个需求处理起来非常简单，可以通过云平台的LoadBalancer来实现。

但如果是自建的kubernetes裸机集群，那则要麻烦得多。祼机集群默认不支持负载均衡的方式，可用的方案不外乎Ingress、NodePort、ExternalIPs等方式来实现外部访问。可惜这些方案本身并不完美，他们或多或少都存在着一些缺点，这使得裸金属集群成为Kubernetes生态系统中的二等公民。

二. 部署要求

MetalLB部署需要以下环境才能运行：

• 运行Kubernetes 1.13.0或更高版本的群集，尚不具有网络负载平衡功能；
• 一些用于MetalLB分配的IPv4地址；
• 如果使用BGP模式，需要准备一台或多台支持BGP的路由器；
• 如果使用layer 2模式时，集群节点间必须允许7946端口的访问 ，用户代理之间的通信；
• 集群的网络类型需要支持MetalLB，详见下图

三. 工作原理 

MetalLB支持两种模式，一种是Layer2模式，一种是BGP模式。

Layer2模式

在2层模式下，Metallb会在Node节点中选出一台作为Leader，与服务IP相关的所有流量都会流向该节点。在该节点上， kube-proxy将接收到的流量传播到对应服务的Pod。当leader节点出现故障时，会由另一个节点接管。从这个角度来看，2层模式更像是高可用，而不是负载均衡，因为同时只能在一个节点负责接收数据。

在二层模式中会存在以下两种局限性：单节点瓶颈和故障转移慢的情况。

由于Layer 2 模式会使用单个选举出来的Leader来接收服务IP的所有流量，这就意味着服务的入口带宽被限制为单个节点的带宽，单节点的流量处理能力将成为整个集群的接收外部流量的瓶颈。

在故障转移方面，目前的机制是MetalLB通过发送2层数据包来通知各个节点，并重新选举Leader，这通常能在几秒内完成。但如果是计划外的事故导致的，此时在有故障的客户端刷新其缓存条目之前，将无法访问服务IP。

BGP模式

BGP模式是真正的负载均衡，该模式需要路由器支持BGP协议 ，群集中的每个节点会与网络路由器建议基于BGP的对等会话，并使用该会话来通告负载均衡的IP。MetalLB发布的路由彼此等效，这意味着路由器将使用所有的目标节点，并在它们之间进行负载平衡。数据包到达节点后，kube-proxy负责流量路由的后一跳，将数据包发送到对应服务的Pod。

负载平衡的方式取决于您特定的路由器型号和配置，常见的有基于数据包哈希对每个连接进行均衡，这意味着单个TCP或UDP会话的所有数据包都将定向到群集中的单个计算机。

四. 部署安装

Metallb支持通过Kuberntes清单、Helm和Kustomize方式进行部署，本文我们将以Kuberntes清单为例介绍产品的部署安装，部署的版本为新的v0.13.4。

注：由于Metallb从v0.13.0版本开始不再使用configmap而改用自定义资源方式配置，因此本示例与旧版本的配置方式会有所不同。

1. 启用kube-proxy的ARP模式

如果集群是使用IPVS模式下kube-proxy，则从kubernetes v.1.14.2开始，必须启用ARP模式。

$ kubectl edit configmap -n kube-system kube-proxy #设置strictARP值为trueapiVersion: kubeproxy.config.k8s.io/v1alpha1kind: KubeProxyConfigurationmode: "ipvs"ipvs:  strictARP: true

2. 安装MetalLB相关组件

$ kubectl apply -f https://raw.githubusercontent.com/metallb/metallb/v.13.4/config/manifests/metallb-native.yaml

Layer2模式配置

创建IPAddressPool，并指定用于分配的IP池。

apiVersion: metallb.io/v1beta1kind: IPAddressPoolmetadata:  name: ip-pool  namespace: metallb-systemspec:  addresses:  - 192.168.214.50-192.168.214.80   #分配给LB的IP池

apiVersion: metallb.io/v1beta1kind: L2Advertisementmetadata:  name: l2adver  namespace: metallb-system

BGP模式配置

对于具有一个BGP路由器和一个IP地址范围的基本配置，您需要4条信息：

• MetalLB应该连接的路由器IP地址，
• 路由器的AS号，
• MetalLB应该使用的AS号，
• 以CIDR前缀表示的IP地址范围。

创建BGPPeer

apiVersion: metallb.io/v1beta2kind: BGPPeermetadata:  name: sample  namespace: metallb-systemspec:  myASN: 64500  peerASN: 64501  peerAddress: 10.0.0.1

apiVersion: metallb.io/v1beta1kind: IPAddressPoolmetadata:  name: first-pool  namespace: metallb-systemspec:  addresses:  - 192.168.10.0/24

apiVersion: metallb.io/v1beta1kind: BGPAdvertisementmetadata:  name: bgpadver  namespace: metallb-system

五. 功能验证

1. 创建示例yaml文件并执行，包括svc与deployment。

apiVersion: v1kind: Servicemetadata:  name: myapp-svcspec:  selector:    app: myapp  ports:    - protocol: TCP      port: 80      targetPort: 80  type: LoadBalancer    #类型选择LoadBalancer ---apiVersion: apps/v1kind: Deploymentmetadata:  name: myapp-deployment  labels:    app: myappspec:  replicas: 2  selector:    matchLabels:      app: myapp  template:    metadata:      labels:        app: myapp    spec:      containers:      - name: nginx        image: nginx:1.19.4        ports:        - containerPort: 80

2. 查看创建的SVC状态，已获取到IP

六. 项目成熟度

MetalLB项目目前处于beta阶段，但已被多个人员和公司用于多个生产和非生产集群中。根据错误报告的频率，暂时未发现有较大的BUG出现。

相关文章