一、Ribbon概述

  • SpringCloud Ribbon 是基于Netflix Ribbon实现的一套客户端。
  • 简单的说，Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法和服务调用，Ribbon客户端组件提供一系列完善的配置项如连接超时，重试等，简单的说，就是配置文件中列出Load Banlancer (简称LB) 后面所有的机器，Ribbon都会自动的帮助你基于某种规则（如简单轮询，随机连接等）去连接这些机器。我们很容易使用Ribbon实现自定义的负载均衡算法。
  • 官网： https://github.com/Netflix/ribbon/wiki/Getting-Started

  • Ribbon已经进入维护模式！未来的替换方案：Load Banlancer

    1. LB （负载均衡）

  • 负载均衡：将用户的请求平摊的分配到多个服务上，常见的负载均衡软件有Nginx等。

  • Ribbon提供了多种策略：轮询、随机、根据响应时间加权。

    2. 负载均衡分类

  • 集中式LB：即在服务的消费方和提供方之间使用独立的LB设施（可以是硬件，如F5，也可以是软件，如Nginx），由该设施负责把访问请求通过某种策略转发至服务的提供方。

  • 进程内LB：将LB逻辑集成到消费方，消费方从服务注册中心或知有哪些地址可用，然后自己再从这些地址中选择出一个何时的服务器（Ribbon）。
  • Ribbon就属于是进程内LB, 它只是一个类库，集成与消费方进程，消费方通过它来获取到服务提供方的地址。

  • Ribbon是本地负载均衡，在调用微服务接口时候，会在注册中心上获取注册信息服务列表之后缓存到 JVM 本地，从而在本地实现 RPC 远程服务调用技术。

    3. Ribbon vs Nginx

  • Ribbon 本地负载均衡，再调用微服务接口时候，会在注册中心上获取注册信息服务列表之后缓存到JVM本地，从而在本地实现RPC远程服务调用技术。

  • Nginx是服务器负载均衡，客户端所有请求都会交给Nginx，然后由Nginx实现转发请求，即负载均衡是由服务端实现的。

    二、负载均衡演示

    1. 架构说明

    image.png
    Ribbon在工作时分为两步：
  1. 选择EurekaServer，优先选择在同一区域内负载较少的服务器。

  2. 根据用户指定的策略，从服务器取出的服务注册列表中选择一个地址。

    2. RestTemplate和LB的使用

  3. 写pom：我们之前实现了负载均衡就是基于 Ribbon，eureka的新版本默认就集成了Ribbon。

  4. 写yaml

image.png

  1. 将RestTemplate加入IOC容器，然后标记 @LoadBalanced 注解。
  • xxxForObject()方法：返回的是响应体中的数据。
  • xxxForEntity()方法：返回的是entity对象，包含响应体数据、响应体信息(状态码等)。
    1. @Configuration
    2. public class ApplicationContextConfig {
    3.   @Bean
    4.   @LoadBalanced
    5.   public RestTemplate restTemplate(){
    6.       return new RestTemplate();
    7.   }
    8. }
  1. 主启动类
    1. @SpringBootApplication
    2. @EnableEurekaClient
    3. public class OrderApplication {
    4.  public static void main(String[] args) {
    5.      SpringApplication.run(OrderApplication.class, args);
    6.  }
    7. }

    三、Ribbon核心组件IRule

    Riboon使用 IRule 接口，根据特定算法从所有服务中,选择一个服务。而IRule 接口有7个实现类。每个实现类代表一个负载均衡算法：
  • com.netflix.loadbalancer.RoundRobinRule：轮询
  • com.netflix.loadbalancer.RandomRule：随机
  • com.netflix.loadbalancer.RetryRule：先轮询，失败则在指定时间内进行重试
  • WeightedResponseTimeRule：对轮询的扩展，响应速度越快权重越大
  • BestAvailableRule：先过滤处于断路状态的服务，选择一个并发量最小的服务
  • AvailabilityFilteringRule：先过滤故障实例，再选择并发较小的实例
  • ZoneAvoidanceRule：默认规则，根据Server所在区域的性能和可用性选择服务器。
    image.png


    1. 如何替换负载均衡算法？

  1. 在SpringBoot未扫描的位置创建配置类 ```java @Configuration public class MySelfRule { @Bean public IRule myRule(){ return new RandomRule();//随机负载均衡算法 } }
  2. 2. 在主启动类上加@RibbonClient注解，表示访问CLOUD-PAYMENT-SERVICE服务时，使用我们自定义的负载均衡算法
  3. ```java
  4.  @SpringBootApplication
  5.  @EnableEurekaClient
  6.  @RibbonClient(name = "CLOUD-PAYMENT-SERVICE",configuration = MySelfRule.class)
  7.  public class OrderMain80 {
  8.    public static void main(String[] args){
  9.    SpringApplication.run(OrderMain80.class,args);
  10.   }
  11.  }

2. 轮询算法原理（取模+JUC+自旋锁）


JUC自旋锁、原子类+取模公式，即以一个周期取模：

rest接口第几次请求数 % 服务器集群总数量 = 实际调用服务器位置下标。
@Configuration
@Slf4j
public class MyRule extends AbstractLoadBalancerRule {

    //原子类
    private AtomicInteger nextServerCyclicCounter;
    private static final boolean AVAILABLE_ONLY_SERVERS = true;
    private static final boolean ALL_SERVERS = false;

    @Override
    public void initWithNiwsConfig(IClientConfig iClientConfig) {

    }

    @Override
    public Server choose(Object key) {
        return choose(getLoadBalancer(), key);
    }

    //使用原子类递增，取模
    private int incrementAndGetModulo(int modulo) {
        //自旋锁
        for (; ; ) {
            int current = nextServerCyclicCounter.get();
            int next = (current + 1) % modulo;
            if (nextServerCyclicCounter.compareAndSet(current, next)) {
                return next;
            }
        }
    }


    public Server choose(ILoadBalancer lb, Object key) {
        if (lb == null) {
            log.warn("no load balancer");
            return null;
        }

        Server server = null;
        int count = 0;
        while (server == null && count++ < 10) {
            //返回只有已启动且可访问的服务器
            List<Server> reachableServers = lb.getReachableServers();
            //返回所有已知的服务器，包括可达的和不可达的。
            List<Server> allServers = lb.getAllServers();
            int upCount = reachableServers.size();
            int serverCount = allServers.size();

            if ((upCount == 0) || (serverCount == 0)) {
                log.warn("No up servers available from load balancer: " + lb);
                return null;
            }

            //获取服务
            int nextServerIndex = incrementAndGetModulo(serverCount);
            server = allServers.get(nextServerIndex);

            if (server == null) {
                /* Transient. */
                Thread.yield();
                continue;
            }

            if (server.isAlive() && (server.isReadyToServe())) {
                return (server);
            }

            // Next.
            server = null;
        }

        if (count >= 10) {
            log.warn("No available alive servers after 10 tries from load balancer: "
                    + lb);
        }
        return server;
    }
}

3. 手写负载均衡算法

  1. 自定义接口

    public interface cusLoadBalancer {
 ServiceInstance instances(List<ServiceInstance> serviceInstances);
}

  2. 轮询算法类：让@component扫描 ```java @Component public class MyRule implements cusLoadBalancer {

    private AtomicInteger atomicInteger = new AtomicInteger(0);

    //自旋锁+原子类 public final int getAndIncrement() {

     int current, next;
 do {
     current = this.atomicInteger.get();
     //超出重置
     next = current >= Integer.MAX_VALUE ? 0 : current + 1;
     //将当前值改成next
 } while (!this.atomicInteger.compareAndSet(current, next));
 return next;

    }

//轮询
@Override
public ServiceInstance instances(List<ServiceInstance> serviceInstances) {
    //取模，获取下标
    int index = getAndIncrement() % serviceInstances.size();
    return serviceInstances.get(index);
}

}


3. Controller
```java
    @Resource
    private LoadBalancer loadBalancer;//自定义的
    @Resource
    private DiscoveryClient discoveryClient;

    @GetMapping("/payment/lb")
    public String getPaymentLB(){
        List<ServiceInstance> serviceInstances = discoveryClient.getInstances("CLOUD-PAYMENT-SERVICE");
        if(serviceInstances == null || serviceInstances.size() <= 0){
            return null;
        }
        ServiceInstance instance = loadBalancer.instances(serviceInstances);
        URI url = instance.getUri();
        return restTemplate.getForObject(url+"/payment/lb",String.class);
    }

四、停更进维

image.png