概要

在大数据量高并发访问时，经常会出现服务或接口面对暴涨的请求而不可用的情况，甚至引发连锁反映导致整个系统崩溃。此时你需要使用的技术手段之一就是限流，当请求达到一定的并发数或速率，就进行等待、排队、降级、拒绝服务等。在限流时，常见的两种算法是漏桶和令牌桶算法算法。

限流算法

令牌桶(Token Bucket)、漏桶(leaky bucket)和计数器算法是最常用的三种限流的算法。

1. 令牌桶算法

令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌，而如果请求需要被处理，则需要先从桶里获取一个令牌，当桶里没有令牌可取时，则拒绝服务。 当桶满时，新添加的令牌被丢弃或拒绝。
优点：能处理瞬间增大的流量，比如现在正常情况下每秒产生5个令牌，在预制了5个令牌，如果一瞬间流量为一秒8个令牌，首先这一秒正常能生成5个令牌，在加上预制了5个令牌，所以可以处理这个瞬间流量

  1. public class RateLimiterDemo {
  2.     // 每秒生成5个令牌，预制5个令牌
  3.     private static RateLimiter limiter = RateLimiter.create(5);
  6.     public static void exec() {
  7.         // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时，则直接返回0，否则阻塞，直到 
  8.         // 有可用的令牌数才返回，返回的值为阻塞的时间
  9.         // limiter.acquire(1); // 如果没有令牌则阻塞
  10.         if(limiter.tryAcquire()) { // 有令牌则返回true
  11.             // 处理核心逻辑
  12.         } else {
  14.             // 可以放到队列里等待，也可以直接拒接请求，返回错误界面(稍后重试等)
  15.         }
  16.     }
  17. }

漏桶算法

它的主要目的是控制数据注入到网络的速率，平滑网络上的突发流量，数据可以以任意速度流入到漏桶中。漏桶算法提供了一种机制，通过它，突发流量可以被整形以便为网络提供一个稳定的流量。 漏桶可以看作是一个带有常量服务时间的单服务器队列，如果漏桶为空，则不需要流出水滴，如果漏桶（包缓存）溢出，那么水滴会被溢出丢弃。
缺点：处理不了瞬间增大的流量

  1. public class RateLimiterDemo {
  3.     // 10-预热时间 TimeUtil.MILLISECONDS-时间单位  5-速率
  4.     private static RateLimiter limiter = RateLimiter.create(5, 10, TimeUtil.MILLISECONDS);
  7.     public static void exec() {
  8.         // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时，则直接返回0，否则阻塞，直到 
  9.         // 有可用的令牌数才返回，返回的值为阻塞的时间
  10.         // limiter.acquire(1); // 如果没有令牌则阻塞
  11.         if(limiter.tryAcquire()) { // 有令牌则返回true
  12.             // 处理核心逻辑
  13.         } else {
  15.             // 可以放到队列里等待，也可以直接拒接请求，返回错误界面(稍后重试等)
  16.         }
  17.     }
  18. }