1.什么是Ribbon

03 Ribbon客户端负载均衡 - 图1

2.实例

1) 启动两个服务实例

首先我们启动两个user-service实例,一个8081,一个8082。
03 Ribbon客户端负载均衡 - 图2
Eureka监控面板:
03 Ribbon客户端负载均衡 - 图3

2) 开启负载均衡

因为Eureka中已经集成了Ribbon,所以我们无需引入新的依赖。直接修改代码:
在RestTemplate的配置方法上添加@LoadBalanced注解:

  1. @Bean
  2. @LoadBalanced
  3. public RestTemplate restTemplate() {
  4. return new RestTemplate();
  5. }

修改调用方式,不再手动获取ip和端口,而是直接通过服务名称调用:

  1. @RestController
  2. @RequestMapping("consumer")
  3. public class ConsumerController {
  4. @Autowired
  5. private RestTemplate restTemplate;
  6. @GetMapping("{id}")
  7. public User queryById2(@PathVariable("id") Long id) {
  8. // 得到的可能是个服务集合, 内部进行随机 轮询 hash, 得到一个服务,默认轮询
  9. String url = "http://user-serivce/user/"+id;
  10. return this.restTemplate.getForObject(url, User.class);
  11. }
  12. }

访问页面
03 Ribbon客户端负载均衡 - 图4

3.源码跟踪

为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。
显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor
我们进行源码跟踪:
03 Ribbon客户端负载均衡 - 图5
继续跟入execute方法:发现获取了8082端口的服务
03 Ribbon客户端负载均衡 - 图6
再跟下一次,发现获取的是8081:
03 Ribbon客户端负载均衡 - 图7

4.负载均衡策略

Ribbon默认的负载均衡策略是简单的轮询,我们可以测试一下:
编写测试类,在刚才的源码中我们看到拦截中是使用RibbonLoadBalanceClient来进行负载均衡的,其中有一个choose方法,是这样介绍的:
03 Ribbon客户端负载均衡 - 图8
我们是否可以修改负载均衡的策略呢?
继续跟踪源码,发现这么一段代码:
03 Ribbon客户端负载均衡 - 图9
我们看看这个rule是谁:
03 Ribbon客户端负载均衡 - 图10
这里的rule默认值是一个RoundRobinRule,看类的介绍:正式轮询的意思
03 Ribbon客户端负载均衡 - 图11
IRule下的实现类:
03 Ribbon客户端负载均衡 - 图12
SpringBoot也帮我们提供了修改负载均衡规则的配置入口:

  1. user-service:
  2. ribbon:
  3. NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

格式是:{服务名称}.ribbon.NFLoadBalancerRuleClassName,值就是IRule的实现类。

5.重试机制(了解)

Eureka的服务治理强调了CAP原则中的AP,即可用性和可靠性。它与Zookeeper这一类强调CP(一致性,可靠性)的服务治理框架最大的区别在于:Eureka为了实现更高的服务可用性,牺牲了一定的一致性,极端情况下它宁愿接收故障实例也不愿丢掉健康实例,正如我们上面所说的自我保护机制。
但是,此时如果我们调用了这些不正常的服务,调用就会失败,从而导致其它服务不能正常工作!这显然不是我们愿意看到的。
我们现在关闭一个user-service实例:
03 Ribbon客户端负载均衡 - 图13
因为服务剔除的延迟,consumer并不会立即得到最新的服务列表,此时再次访问你会得到错误提示:
03 Ribbon客户端负载均衡 - 图14
但是此时,8081服务其实是正常的。
因此Spring Cloud 整合了Spring Retry 来增强RestTemplate的重试能力,当一次服务调用失败后,不会立即抛出一次,而是再次重试另一个服务。
只需要简单配置即可实现Ribbon的重试:

  1. spring:
  2. cloud:
  3. loadbalancer:
  4. retry:
  5. enabled: true # 开启Spring Cloud的重试功能
  6. user-service:
  7. ribbon:
  8. ConnectTimeout: 250 # Ribbon的连接超时时间
  9. ReadTimeout: 1000 # Ribbon的数据读取超时时间
  10. OkToRetryOnAllOperations: true # 是否对所有操作都进行重试
  11. MaxAutoRetriesNextServer: 1 # 切换实例的重试次数
  12. MaxAutoRetries: 1 # 对当前实例的重试次数

根据如上配置,当访问到某个服务超时后,它会再次尝试访问下一个服务实例,如果不行就再换一个实例,如果不行,则返回失败。切换次数取决于MaxAutoRetriesNextServer参数的值
引入spring-retry依赖

  1. <dependency>
  2. <groupId>org.springframework.retry</groupId>
  3. <artifactId>spring-retry</artifactId>
  4. </dependency>

我们重启user-consumer-demo,测试,发现即使user-service2宕机,也能通过另一台服务实例获取到结果!
03 Ribbon客户端负载均衡 - 图15