负载均衡算法

轮询法

将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载

-加权轮询
给配置高、负载低的服务器配置更高的权重

随机法

通过随机算法，随机挑选一台后端服务器进行访问。随着客户端访问次数的增多，其实际效果接近于轮询结果

-加权随机
根据权重随机访问后端服务器

源地址哈希法

通过哈希函数计算客户端的IP地址，用该数值对服务器的数量进行取模，得到的结果便是处理此次请求的服务器地址。每次都会将同一个客户端映射到同一台服务器

最小连接数法

动态选择当前挤压连接数最少的一台服务器处理当前的请求，尽可能提高后端服务的利用效率

限流算法

固定窗口计数器算法

该算法规定我们单位时间处理的请求数量。比如我们规定我们的一个接口一分钟只能访问10次的话。使用固定窗口计数器算法的话可以这样实现：给定一个变量counter来记录处理的请求数量，当1分钟之内处理一个请求之后counter+1，1分钟之内的如果counter=100的话，后续的请求就会被全部拒绝。等到 1分钟结束后，将counter回归成0，重新开始计数（ps：只要过了一个周期就讲counter回归成0）。
这种限流算法无法保证限流速率，因而无法保证突然激增的流量。比如我们限制一个接口一分钟只能访问10次的话，前半分钟一个请求没有接收，后半分钟接收了10个请求。

滑动窗口计数器算法

该算法算的上是固定窗口计数器算法的升级版。滑动窗口计数器算法相比于固定窗口计数器算法的优化在于：它把时间以一定比例分片。例如我们的接口限流每分钟处理60个请求，我们可以把 1 分钟分为60个窗口。每隔1秒移动一次，每个窗口一秒只能处理不大于 60(请求数)/60（窗口数）的请求，如果当前窗口的请求计数总和超过了限制的数量的话就不再处理其他请求。
很显然：当滑动窗口的格子划分的越多，滑动窗口的滚动就越平滑，限流的统计就会越精确。