为什么要引入负载均衡算法呢？主要有两个原因：

  • 一个是要考虑调用的均匀性，也就是要让每个节点都接收到调用，发挥所有节点的作用；
  • 另一个是要考虑调用的性能，也就是哪个节点响应最快，优先调用哪个节点。

常见的负载均衡算法

随机法

  • 每个节点被访问的概率基本相同

轮询算法

  • 每个节点被访问的概率相同

加权轮询算法

  • 使每个节点被访问到的概率不同

**
在应用加权轮询算法的时候，根据我的经验，要尽可能保证生产的序列的均匀，如果生成的不均匀会造成节点访问失衡，比如刚才的例子，如果生成的序列是{a、a、a、b、b、c}，就会导致前 3 次访问的节点都是 a。

最少活跃连接算法

  • 每一次访问都选择连接数最少的节点

连接数大的节点，可以认为是处理请求慢，而连接数小的节点，可以认为是处理请求快。

一致性 hash 算法

  • 一致性 hash 算法最大的特点就是同一个来源的请求，只会映射到同一个节点上

负载均衡算法的使用场景

  1. 随机算法：实现比较简单，在请求量远超可用服务节点数量的情况下，各个服务节点被访问的概率基本相同，主要应用在各个服务节点的性能差异不大的情况下。
  2. 轮询算法：跟随机算法类似，各个服务节点被访问的概率也基本相同，也主要应用在各个服务节点性能差异不大的情况下。
  3. 加权轮询算法：在轮询算法基础上的改进，可以通过给每个节点设置不同的权重来控制访问的概率，因此主要被用在服务节点性能差异比较大的情况。
  4. 最少活跃连接算法：与加权轮询算法预先定义好每个节点的访问权重不同，采用最少活跃连接算法，客户端同服务端节点的连接数是在时刻变化的，理论上连接数越少代表此时服务端节点越空闲，选择最空闲的节点发起请求，能获取更快的响应速度。尤其在服务端节点性能差异较大，而又不好做到预先定义权重时，采用最少活跃连接算法是比较好的选择。
  5. 一致性 hash 算法：因为它能够保证同一个客户端的请求始终访问同一个服务节点，所以适合服务端节点处理不同客户端请求差异较大的场景。比如服务端缓存里保存着客户端的请求结果，如果同一客户端一直访问一个服务节点，那么就可以一直从缓存中获取数据。

自适应最优选择算法

这种算法的主要思路是在客户端本地维护一份同每一个服务节点的性能统计快照，并且每隔一段时间去更新这个快照。在发起请求时，根据“二八原则”，把服务节点分成两部分，找出 20% 的那部分响应最慢的节点，然后降低权重。这样的话，客户端就能够实时的根据自身访问每个节点性能的快慢，动态调整访问最慢的那些节点的权重，来减少访问量，从而可以优化长尾请求。