微服务 - Sentinel - 《java知识点笔记》

1.前言
- 1.1 分布式系统遇到的问题
- 1.2 解决方案
一、Sentinel是什么？
二、Sentinel的特征
三、Sentinel工作原理

1.前言

1、当服务访问量达到一定程度，流量扛不住的时候，该如何处理？
2、服务之间相互依赖，当服务A出现响应时间过长，影响到服务B的响应，进而产生连锁反应，直至影响整个依赖链上的所有服务，该如何处理？
这是分布式、微服务开发不可避免的问题。

1.1 分布式系统遇到的问题

在一个高度服务化的系统中,我们实现的一个业务逻辑通常会依赖多个服务,比如:商品详情展示服务会依赖商品服务, 价格服务, 商品评论服务. 如图所示:

调用三个依赖服务会共享商品详情服务的线程池. 如果其中的商品评论服务不可用, 就会出现线程池里所有线程都因等待响应而被阻塞, 从而造成服务雪崩. 如图所示:

服务雪崩效应：因服务提供者的不可用导致服务调用者的不可用,并将不可用逐渐放大的过程。
在服务提供者不可用的时候，会出现大量重试的情况：用户重试、代码逻辑重试，这些重试最终导致：进一步加大请求流量。所以归根结底导致雪崩效应的最根本原因是：大量请求线程同步等待造成的资源耗尽。当服务调用者使用同步调用时, 会产生大量的等待线程占用系统资源。一旦线程资源被耗尽,服务调用者提供的服务也将处于不可用状态, 于是服务雪崩效应产生了。

1.2 解决方案

1.2.1 超时机制

  在不做任何处理的情况下，服务提供者不可用会导致消费者请求线程强制等待，而造成系统资源耗尽。加入超时机制，一旦超时，就释放资源。由于释放资源速度较快，一定程度上可以抑制资源耗尽的问题。

1.2.2 服务限流(资源隔离)

限制请求核心服务提供者的流量，使大流量拦截在核心服务之外，这样可以更好的保证核心服务提供者不出问题，对于一些出问题的服务可以限制流量访问，只分配固定线程资源访问，这样能使整体的资源不至于被出问题的服务耗尽，进而整个系统雪崩。那么服务之间怎么限流，怎么资源隔离？
例如可以通过线程池+队列的方式，通过信号量的方式。

1.2.3 服务熔断

远程服务不稳定或网络抖动时暂时关闭，就叫服务熔断。
现实世界的断路器大家肯定都很了解，断路器实时监控电路的情况，如果发现电路电流异常，就会跳闸，从而防止电路被烧毁。

1.2.4 服务降级

有服务熔断，必然要有服务降级。

所谓降级，就是当某个服务熔断之后，服务将不再被调用，此时客户端可以自己准备一个本地的fallback（回退）回调，返回一个缺省值。例如：(备用接口/缓存/mock数据) 。

一、Sentinel是什么？

  随着微服务的流行，服务和服务之间的稳定性变得越来越重要。Sentinel 是面向分布式服务架构的流量控制组件，主要以流量为切入点，从限流、流量整形、熔断降级、系统负载保护、热点防护等多个维度来帮助开发者保障微服务的稳定性。 <br />源码地址：https://github.com/alibaba/Sentinel <br />官方文档：https://github.com/alibaba/Sentinel/wiki

二、Sentinel的特征

丰富的应用场景：Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景，例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、实时熔断下游不可用应用等。
完备的实时监控：Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据，甚至 500 台以下规模的集群的汇总运行情况。
广泛的开源生态： Sentinel 提供开箱即用的与其它开源框架/库的整合模块，例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
完善的 SPI 扩展点： Sentinel 提供简单易用、完善的 SPI 扩展点。您可以通过实现扩展点，快速的定制逻辑。

三、Sentinel工作原理

1.基本概念

1.1资源

资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容，例如，由应用程序提供的服务，或由应用程序调用的其它应用提供的服务，甚至可以是一段代码。在接下来的文档中，我们都会用资源来描述代码块。
只要通过 Sentinel API 定义的代码，就是资源，能够被 Sentinel 保护起来。大部分情况下，可以使用方法签名，URL，甚至服务名称作为资源名来标示资源。

1.2规则

围绕资源的实时状态设定的规则，可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

2.Sentinel工作主流程

微信图片_20210923195649.png
在 Sentinel 里面，所有的资源都对应一个资源名称（resourceName），每次资源调用都会创建一个 Entry 对象。Entry 可以通过对主流框架的适配自动创建，也可以通过注解的方式或调用 SphU API 显式创建。Entry 创建的时候，同时也会创建一系列功能插槽（slot chain），这些插槽有不同的职责，例如:

NodeSelectorSlot 负责收集资源的路径，并将这些资源的调用路径，以树状结构存储起来，用于根据调用路径来限流降级；
ClusterBuilderSlot 则用于存储资源的统计信息以及调用者信息，例如该资源的 RT, QPS, thread count 等等，这些信息将用作为多维度限流，降级的依据；
StatisticSlot 则用于记录、统计不同纬度的 runtime 指标监控信息；
FlowSlot 则用于根据预设的限流规则以及前面 slot 统计的状态，来进行流量控制；
AuthoritySlot 则根据配置的黑白名单和调用来源信息，来做黑白名单控制；
DegradeSlot 则通过统计信息以及预设的规则，来做熔断降级；
SystemSlot 则通过系统的状态，例如 load1 等，来控制总的入口流量；

3.Sentinel快速开始

在官方文档中，定义的Sentinel进行资源保护的几个步骤：

定义资源
定义规则

检验规则是否生效

Entry entry = null;
// 务必保证 finally 会被执行
try {
// 资源名可使用任意有业务语义的字符串，注意数目不能太多（超过 1K），超出几千请作为参数传入而不要直接作为资源名
// EntryType 代表流量类型（inbound/outbound），其中系统规则只对 IN 类型的埋点生效
entry = SphU.entry("自定义资源名");
// 被保护的业务逻辑
// do something...
} catch (BlockException ex) {
// 资源访问阻止，被限流或被降级
// 进行相应的处理操作
} catch (Exception ex) {
// 若需要配置降级规则，需要通过这种方式记录业务异常
Tracer.traceEntry(ex, entry);
} finally {
// 务必保证 exit，务必保证每个 entry 与 exit 配对
if (entry != null) {
  entry.exit();
}
}

3.1 Sentinel资源保护的方式API实现

// 1.引入依赖
<dependency>
 <groupId>com.alibaba.csp</groupId>
 <artifactId>sentinel-core</artifactId>
 <version>1.8.0</version>
</dependency>

```java // 2.编写测试案例 @RestController @Slf4j public class HelloController {

private static final String RESOURCE_NAME = “hello”;

@RequestMapping(value = “/hello”) public String hello() {

  Entry entry = null;
  try {
      // 资源名可使用任意有业务语义的字符串，比如方法名、接口名或其它可唯一标识的字符串。
      entry = SphU.entry(RESOURCE_NAME);
      // 被保护的业务逻辑
      String str = "hello world";
      log.info("====="+str);
      return str;
  } catch (BlockException e1) {
      // 资源访问阻止，被限流或被降级
      //进行相应的处理操作
      log.info("block!");
  } catch (Exception ex) {
      // 若需要配置降级规则，需要通过这种方式记录业务异常
      Tracer.traceEntry(ex, entry);
  } finally {
      if (entry != null) {
          entry.exit();
      }
  }

  return null;

}

/**

定义流控规则 */ @PostConstruct private static void initFlowRules(){

List rules = new ArrayList<>();

FlowRule rule = new FlowRule();

//设置受保护的资源 rule.setResource(RESOURCE_NAME); // 设置流控规则 QPS rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // 设置受保护的资源阈值 // Set limit QPS to 20. rule.setCount(1);

rules.add(rule); // 加载配置好的规则 FlowRuleManager.loadRules(rules);

}

}

测试效果：<br />![微信图片_20210926105018.png](https://cdn.nlark.com/yuque/0/2021/png/1910658/1632624661900-edc9ce95-e2b5-4c6e-b895-c39e6abb2efb.png#clientId=ua3da7216-b656-4&crop=0&crop=0&crop=1&crop=1&from=ui&id=u33faa99e&margin=%5Bobject%20Object%5D&name=%E5%BE%AE%E4%BF%A1%E5%9B%BE%E7%89%87_20210926105018.png&originHeight=337&originWidth=845&originalType=binary&ratio=1&rotation=0&showTitle=false&size=244438&status=done&style=none&taskId=uf54de3ed-b43f-4a79-93a8-ac88343e2bb&title=)<br />缺点：

- 业务侵入性很强，需要在controller中写入非业务代码. 
- 配置不灵活 若需要添加新的受保护资源 需要手动添加 init方法来添加流控规则 

<a name="pzn52"></a>
#### 3.2 @SentinelResource注解实现
@SentinelResource 注解用来标识资源是否被限流、降级。 <br />blockHandler: 定义当资源内部发生了BlockException应该进入的方法（捕获的是Sentinel定义的异常） <br />fallback: 定义的是资源内部发生了Throwable应该进入的方法 <br />exceptionsToIgnore：配置fallback可以忽略的异常 <br />源码入口：com.alibaba.csp.sentinel.annotation.aspectj.SentinelResourceAspect 
```java
// 1.引入依赖 
<dependency> 
     <groupId>com.alibaba.csp</groupId>
     <artifactId>sentinel‐annotation‐aspectj</artifactId> 
     <version>1.8.0</version>
</dependency>

// 2.配置切面支持
@Configuration
public class SentinelAspectConfiguration { 
     @Bean 
     public SentinelResourceAspect sentinelResourceAspect() { 
         return new SentinelResourceAspect(); 
     } 
}

// 3.UserController中编写测试逻辑，添加@SentinelResource，并配置blockHandler和fallback
@RequestMapping(value = "/findOrderByUserId/{id}") 
@SentinelResource(value = "findOrderByUserId",  
                  fallback = "fallback",fallbackClass = ExceptionUtil.class, 
                  blockHandler = "handleException",blockHandlerClass = ExceptionUtil.class) 
public R findOrderByUserId(@PathVariable("id") Integer id) { 
    //ribbon实现 
    String url = "http://mall‐order/order/findOrderByUserId/"+id; 
    R result = restTemplate.getForObject(url,R.class); 
    if(id==4){ 
        throw new IllegalArgumentException("非法参数异常");
    }  
    return result; 
}

// 4.编写ExceptionUtil，注意如果指定了class，方法必须是static方法
public class ExceptionUtil {  

    public static R fallback(Integer id,Throwable e){  
        return R.error(‐2,"===被异常降级啦==="); 
    }  

    public static R handleException(Integer id, BlockException e){
        return R.error(‐2,"===被限流啦===");
    } 
}

5.流控规则设置可以通过Sentinel dashboard配置，客户端需要引入 Transport 模块来与 Sentinel 控制台进行通信。

<dependency> 
    <groupId>com.alibaba.csp</groupId> 
    <artifactId>sentinel‐transport‐simple‐http</artifactId> 
    <version>1.8.0</version> 
</dependency>

启动 Sentinel 控制台,下载控制台 jar 包并在本地启动
```
java ‐jar sentinel‐dashboard‐1.8.0.jar
```
访问http://localhost:8080/#/login ,默认用户名密码： sentinel/sentinel

4.spring cloud Alibaba整合Sentinel

1.引入依赖

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring‐cloud‐starter‐alibaba‐sentinel</artifactId> 
</dependency> 

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring‐boot‐starter‐actuator</artifactId>
</dependency>

2.添加yml配置，为微服务设置sentinel控制台地址
添加Sentinel后，需要暴露/actuator/sentinel端点,而Springboot默认是没有暴露该端点的，所以需要设置，测试
http://localhost:8800/actuator/sentinel

server:
  port: 8805

spring:
  application:
    name: mall-user-sentinel  #微服务名称

  #配置nacos注册中心地址
  cloud:
    nacos:
      discovery:
        server-addr: 127.0.0.1:8848

    sentinel:
      transport:
        # 添加sentinel的控制台地址
        dashboard: 127.0.0.1:8080
        # 指定应用与Sentinel控制台交互的端口，应用本地会起一个该端口占用的HttpServer
        #port: 8719


#暴露actuator端点   http://localhost:8800/actuator/sentinel
management:
  endpoints:
    web:
      exposure:
        include: '*'


feign:
  sentinel:
    enabled: true   #开启sentinel对feign的支持 默认false

3.在sentinel控制台中设置流控规则

资源名: 接口的API
针对来源: 默认是default，当多个微服务都调用这个资源时，可以配置微服务名来对指定的微服务设置阈值
阈值类型: 分为QPS和线程数假设阈值为10
QPS类型: 只得是每秒访问接口的次数>10就进行限流
线程数: 为接受请求该资源分配的线程数>10就进行限流

微信图片_20210926145340.png
测试：因为QPS是1，所以1秒内多次访问会出现如下情形：
微信图片_20210927163641.png

4.1 微服务和Sentinel Dashboard通信原理

Sentinel控制台与微服务端之间，实现了一套服务发现机制，集成了Sentinel的微服务都会将元数据传递给Sentinel控制台，架构图如下所示：
微信图片_20210927163913.png