Mall -> http://www.macrozheng.com/#/cloud/sentinel

Spring Cloud Alibaba 致力于提供微服务开发的一站式解决方案,Sentinel 作为其核心组件之一,具有熔断与限流等一系列服务保护功能,本文将对其用法进行详细介绍。

Sentinel 实现熔断与限流

Sentinel简介

随着微服务的流行,服务和服务之间的稳定性变得越来越重要。 Sentinel 以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。

Sentinel具有如下特性:

  • 丰富的应用场景:承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀,可以实时熔断下游不可用应用;
  • 完备的实时监控:同时提供实时的监控功能。可以在控制台中看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况;
  • 广泛的开源生态:提供开箱即用的与其它开源框架/库的整合模块,例如与 Spring Cloud、Dubbo、gRPC 的整合;
  • 完善的 SPI 扩展点:提供简单易用、完善的 SPI 扩展点。您可以通过实现扩展点,快速的定制逻辑。

安装Sentinel控制台

Sentinel控制台是一个轻量级的控制台应用,它可用于实时查看单机资源监控及集群资源汇总,并提供了一系列的规则管理功能,如流控规则、降级规则、热点规则等。

  • 我们先从官网下载Sentinel,这里下载的是sentinel-dashboard-1.6.3.jar文件,下载地址:https://github.com/alibaba/Sentinel/releases
  • 下载完成后在命令行输入如下命令运行Sentinel控制台:
  1. java -jar sentinel-dashboard-1.6.3.jar
  • Sentinel控制台默认运行在8080端口上,登录账号密码均为sentinel,通过如下地址可以进行访问:http://localhost:8080

Sentinel 简介与使用 - 图1

  • Sentinel控制台可以查看单台机器的实时监控数据。

Sentinel 简介与使用 - 图2

创建sentinel-service模块

这里我们创建一个sentinel-service模块,用于演示Sentinel的熔断与限流功能。

  • 在pom.xml中添加相关依赖,这里我们使用Nacos作为注册中心,所以需要同时添加Nacos的依赖:
  1. <dependency>
  2. <groupId>com.alibaba.cloud</groupId>
  3. <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
  4. </dependency>
  5. <dependency>
  6. <groupId>com.alibaba.cloud</groupId>
  7. <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
  8. </dependency>
  • 在application.yml中添加相关配置,主要是配置了Nacos和Sentinel控制台的地址:
  1. server:
  2. port: 8401
  3. spring:
  4. application:
  5. name: sentinel-service
  6. cloud:
  7. nacos:
  8. discovery:
  9. server-addr: localhost:8848 #配置Nacos地址
  10. sentinel:
  11. transport:
  12. dashboard: localhost:8080 #配置sentinel dashboard地址
  13. port: 8719
  14. service-url:
  15. user-service: http://nacos-user-service
  16. management:
  17. endpoints:
  18. web:
  19. exposure:
  20. include: '*'

限流功能

Sentinel Starter 默认为所有的 HTTP 服务提供了限流埋点,我们也可以通过使用@SentinelResource来自定义一些限流行为。

创建RateLimitController类

用于测试熔断和限流功能。

  1. /**
  2. * 限流功能
  3. * Created by macro on 2019/11/7.
  4. */
  5. @RestController
  6. @RequestMapping("/rateLimit")
  7. public class RateLimitController {
  8. /**
  9. * 按资源名称限流,需要指定限流处理逻辑
  10. */
  11. @GetMapping("/byResource")
  12. @SentinelResource(value = "byResource",blockHandler = "handleException")
  13. public CommonResult byResource() {
  14. return new CommonResult("按资源名称限流", 200);
  15. }
  16. /**
  17. * 按URL限流,有默认的限流处理逻辑
  18. */
  19. @GetMapping("/byUrl")
  20. @SentinelResource(value = "byUrl",blockHandler = "handleException")
  21. public CommonResult byUrl() {
  22. return new CommonResult("按url限流", 200);
  23. }
  24. public CommonResult handleException(BlockException exception){
  25. return new CommonResult(exception.getClass().getCanonicalName(),200);
  26. }
  27. }

根据资源名称限流

我们可以根据@SentinelResource注解中定义的value(资源名称)来进行限流操作,但是需要指定限流处理逻辑。

  • 流控规则可以在Sentinel控制台进行配置,由于我们使用了Nacos注册中心,我们先启动Nacos和sentinel-service;
  • 由于Sentinel采用的懒加载规则,需要我们先访问下接口,Sentinel控制台中才会有对应服务信息,我们先访问下该接口:http://localhost:8401/rateLimit/byResource
  • 在Sentinel控制台配置流控规则,根据@SentinelResource注解的value值:

Sentinel 简介与使用 - 图3

  • 快速访问上面的接口,可以发现返回了自己定义的限流处理信息:

Sentinel 简介与使用 - 图4

根据URL限流

我们还可以通过访问的URL来限流,会返回默认的限流处理信息。

  • 在Sentinel控制台配置流控规则,使用访问的URL:

Sentinel 简介与使用 - 图5

Sentinel 简介与使用 - 图6

自定义限流处理逻辑

我们可以自定义通用的限流处理逻辑,然后在@SentinelResource中指定。

  • 创建CustomBlockHandler类用于自定义限流处理逻辑:
  1. /**
  2. * Created by macro on 2019/11/7.
  3. */
  4. public class CustomBlockHandler {
  5. public CommonResult handleException(BlockException exception){
  6. return new CommonResult("自定义限流信息",200);
  7. }
  8. }
  • 在RateLimitController中使用自定义限流处理逻辑:
  1. /**
  2. * 限流功能
  3. * Created by macro on 2019/11/7.
  4. */
  5. @RestController
  6. @RequestMapping("/rateLimit")
  7. public class RateLimitController {
  8. /**
  9. * 自定义通用的限流处理逻辑
  10. */
  11. @GetMapping("/customBlockHandler")
  12. @SentinelResource(value = "customBlockHandler", blockHandler = "handleException",blockHandlerClass = CustomBlockHandler.class)
  13. public CommonResult blockHandler() {
  14. return new CommonResult("限流成功", 200);
  15. }
  16. }

熔断功能

Sentinel 支持对服务间调用进行保护,对故障应用进行熔断操作,这里我们使用RestTemplate来调用nacos-user-service服务所提供的接口来演示下该功能。

  • 首先我们需要使用@SentinelRestTemplate来包装下RestTemplate实例:
  1. /**
  2. * Created by macro on 2019/8/29.
  3. */
  4. @Configuration
  5. public class RibbonConfig {
  6. @Bean
  7. @SentinelRestTemplate
  8. public RestTemplate restTemplate(){
  9. return new RestTemplate();
  10. }
  11. }
  • 添加CircleBreakerController类,定义对nacos-user-service提供接口的调用:
  1. /**
  2. * 熔断功能
  3. * Created by macro on 2019/11/7.
  4. */
  5. @RestController
  6. @RequestMapping("/breaker")
  7. public class CircleBreakerController {
  8. private Logger LOGGER = LoggerFactory.getLogger(CircleBreakerController.class);
  9. @Autowired
  10. private RestTemplate restTemplate;
  11. @Value("${service-url.user-service}")
  12. private String userServiceUrl;
  13. @RequestMapping("/fallback/{id}")
  14. @SentinelResource(value = "fallback",fallback = "handleFallback")
  15. public CommonResult fallback(@PathVariable Long id) {
  16. return restTemplate.getForObject(userServiceUrl + "/user/{1}", CommonResult.class, id);
  17. }
  18. @RequestMapping("/fallbackException/{id}")
  19. @SentinelResource(value = "fallbackException",fallback = "handleFallback2", exceptionsToIgnore = {NullPointerException.class})
  20. public CommonResult fallbackException(@PathVariable Long id) {
  21. if (id == 1) {
  22. throw new IndexOutOfBoundsException();
  23. } else if (id == 2) {
  24. throw new NullPointerException();
  25. }
  26. return restTemplate.getForObject(userServiceUrl + "/user/{1}", CommonResult.class, id);
  27. }
  28. public CommonResult handleFallback(Long id) {
  29. User defaultUser = new User(-1L, "defaultUser", "123456");
  30. return new CommonResult<>(defaultUser,"服务降级返回",200);
  31. }
  32. public CommonResult handleFallback2(@PathVariable Long id, Throwable e) {
  33. LOGGER.error("handleFallback2 id:{},throwable class:{}", id, e.getClass());
  34. User defaultUser = new User(-2L, "defaultUser2", "123456");
  35. return new CommonResult<>(defaultUser,"服务降级返回",200);
  36. }
  37. }
  • 启动nacos-user-service和sentinel-service服务:
  • 由于我们并没有在nacos-user-service中定义id为4的用户,所有访问如下接口会返回服务降级结果:http://localhost:8401/breaker/fallback/4
  1. {
  2. "data": {
  3. "id": -1,
  4. "username": "defaultUser",
  5. "password": "123456"
  6. },
  7. "message": "服务降级返回",
  8. "code": 200
  9. }

Sentinel 简介与使用 - 图7

与Feign结合使用

Sentinel也适配了Feign组件,我们使用Feign来进行服务间调用时,也可以使用它来进行熔断。

  • 首先我们需要在pom.xml中添加Feign相关依赖:
  1. <dependency>
  2. <groupId>org.springframework.cloud</groupId>
  3. <artifactId>spring-cloud-starter-openfeign</artifactId>
  4. </dependency>
  • 在application.yml中打开Sentinel对Feign的支持:
  1. feign:
  2. sentinel:
  3. enabled: true #打开sentinel对feign的支持
  • 在应用启动类上添加@EnableFeignClients启动Feign的功能;
  • 创建一个UserService接口,用于定义对nacos-user-service服务的调用:
  1. /**
  2. * Created by macro on 2019/9/5.
  3. */
  4. @FeignClient(value = "nacos-user-service",fallback = UserFallbackService.class)
  5. public interface UserService {
  6. @PostMapping("/user/create")
  7. CommonResult create(@RequestBody User user);
  8. @GetMapping("/user/{id}")
  9. CommonResult<User> getUser(@PathVariable Long id);
  10. @GetMapping("/user/getByUsername")
  11. CommonResult<User> getByUsername(@RequestParam String username);
  12. @PostMapping("/user/update")
  13. CommonResult update(@RequestBody User user);
  14. @PostMapping("/user/delete/{id}")
  15. CommonResult delete(@PathVariable Long id);
  16. }
  • 创建UserFallbackService类实现UserService接口,用于处理服务降级逻辑:
  1. /**
  2. * Created by macro on 2019/9/5.
  3. */
  4. @Component
  5. public class UserFallbackService implements UserService {
  6. @Override
  7. public CommonResult create(User user) {
  8. User defaultUser = new User(-1L, "defaultUser", "123456");
  9. return new CommonResult<>(defaultUser,"服务降级返回",200);
  10. }
  11. @Override
  12. public CommonResult<User> getUser(Long id) {
  13. User defaultUser = new User(-1L, "defaultUser", "123456");
  14. return new CommonResult<>(defaultUser,"服务降级返回",200);
  15. }
  16. @Override
  17. public CommonResult<User> getByUsername(String username) {
  18. User defaultUser = new User(-1L, "defaultUser", "123456");
  19. return new CommonResult<>(defaultUser,"服务降级返回",200);
  20. }
  21. @Override
  22. public CommonResult update(User user) {
  23. return new CommonResult("调用失败,服务被降级",500);
  24. }
  25. @Override
  26. public CommonResult delete(Long id) {
  27. return new CommonResult("调用失败,服务被降级",500);
  28. }
  29. }
  • 在UserFeignController中使用UserService通过Feign调用nacos-user-service服务中的接口:
  1. /**
  2. * Created by macro on 2019/8/29.
  3. */
  4. @RestController
  5. @RequestMapping("/user")
  6. public class UserFeignController {
  7. @Autowired
  8. private UserService userService;
  9. @GetMapping("/{id}")
  10. public CommonResult getUser(@PathVariable Long id) {
  11. return userService.getUser(id);
  12. }
  13. @GetMapping("/getByUsername")
  14. public CommonResult getByUsername(@RequestParam String username) {
  15. return userService.getByUsername(username);
  16. }
  17. @PostMapping("/create")
  18. public CommonResult create(@RequestBody User user) {
  19. return userService.create(user);
  20. }
  21. @PostMapping("/update")
  22. public CommonResult update(@RequestBody User user) {
  23. return userService.update(user);
  24. }
  25. @PostMapping("/delete/{id}")
  26. public CommonResult delete(@PathVariable Long id) {
  27. return userService.delete(id);
  28. }
  29. }
  1. {
  2. "data": {
  3. "id": -1,
  4. "username": "defaultUser",
  5. "password": "123456"
  6. },
  7. "message": "服务降级返回",
  8. "code": 200
  9. }

使用Nacos存储规则

默认情况下,当我们在Sentinel控制台中配置规则时,控制台推送规则方式是通过API将规则推送至客户端并直接更新到内存中。一旦我们重启应用,规则将消失。下面我们介绍下如何将配置规则进行持久化,以存储到Nacos为例。

原理示意图

Sentinel 简介与使用 - 图8

  • 首先我们直接在配置中心创建规则,配置中心将规则推送到客户端;
  • Sentinel控制台也从配置中心去获取配置信息。

功能演示

  • 先在pom.xml中添加相关依赖:
  1. <dependency>
  2. <groupId>com.alibaba.csp</groupId>
  3. <artifactId>sentinel-datasource-nacos</artifactId>
  4. </dependency>
  • 修改application.yml配置文件,添加Nacos数据源配置:
  1. spring:
  2. cloud:
  3. sentinel:
  4. datasource:
  5. ds1:
  6. nacos:
  7. server-addr: localhost:8848
  8. dataId: ${spring.application.name}-sentinel
  9. groupId: DEFAULT_GROUP
  10. data-type: json
  11. rule-type: flow
  • 在Nacos中添加配置:

Sentinel 简介与使用 - 图9

  • 添加配置信息如下:
  1. [
  2. {
  3. "resource": "/rateLimit/byUrl",
  4. "limitApp": "default",
  5. "grade": 1,
  6. "count": 1,
  7. "strategy": 0,
  8. "controlBehavior": 0,
  9. "clusterMode": false
  10. }
  11. ]
  • 相关参数解释:
    • resource:资源名称;
    • limitApp:来源应用;
    • grade:阈值类型,0表示线程数,1表示QPS;
    • count:单机阈值;
    • strategy:流控模式,0表示直接,1表示关联,2表示链路;
    • controlBehavior:流控效果,0表示快速失败,1表示Warm Up,2表示排队等待;
    • clusterMode:是否集群。
  • 发现Sentinel控制台已经有了如下限流规则:

Sentinel 简介与使用 - 图10

  • 快速访问测试接口,可以发现返回了限流处理信息:

Sentinel 简介与使用 - 图11

参考资料

Spring Cloud Alibaba 官方文档:https://github.com/alibaba/spring-cloud-alibaba/wiki

使用到的模块

  1. springcloud-learning
  2. ├── nacos-user-service -- 注册到nacos的提供User对象CRUD接口的服务
  3. └── sentinel-service -- sentinel功能测试服务

项目源码地址

https://github.com/macrozheng/springcloud-learning