Spring Cloud 学习笔记06-02----用Hystrix来限流以及进行服务隔离

网友投稿 928 2022-05-29

前言

上一篇我们介绍了Spring Cloud 学习笔记06----断路器(Hystrix)(Finchley版本)。那一篇主要是介绍Hystrix用来做熔断处理。这一篇我们将重点介绍一下用Hystrix来做限流器以及服务隔离器。

工作流程

首先让我们看看官方文档上的工作流程图。

英文版的流程图看不懂,没关系,咱们还有中文版的工作流程图。

流程说明

每次调用创建一个新的HystrixCommand,把依赖调用封装在run()方法中。

执行execute()/queue()做同步或者异步调用

当前调用是否已被缓存,是的话则直接返回结果,否则进入步骤4。

判断熔断器(circuit-breaker)是否打开,如果打开跳到步骤8,进行降级策略,如果关闭进入步骤5。

判断线程池/队列/信号量是否跑满,如果跑满进入降级步骤8,否则继续后续步骤6。

调用HystrixCommand的run方法,运行依赖逻辑

6.1. 调用是否出现异常,否:继续,是进入步骤8

6.2. 调用是否超时,否:返回调用结果,是进入步骤8。

搜集5、6步骤所有的运行状态(成功,失败,拒绝,超时)上报给熔断器,用于判断统计从而判断熔断器状态。

getFallback()降级逻辑,四种触发getFallback调用情况,返回执行成功结果。

两种资源隔离模式

说完了Hystrix的工作机制之后,接下来,我们来看下Hystrix的两种资源隔离模式。

线程池隔离模式

使用一个线程池用来存储当前的请求,线程池对请求作处理,设置任务返回处理超时时间,堆积的请求堆积入线程池队列,这种方式需要为每个依赖的服务申请线程池,有一定的资源消耗,好处是可以应对突发流量。

信号量(Semaphore)隔离模式

使用一个原子计数器(或信号量)来记录当前有多少个线程正在运行,请求来先判断计数器的数值,若超过设置的最大线程个数则丢弃该类型的新请求,若不超过则执行计数操作请求,则计数器+1,请求返回计数器-1,无法处理突发流量。

下图展示了线程池隔离模式和信号量隔离模式的比较。

接下来就让我们来看看Hystrix的基本配置。Hystrix支持的配置有很多,主要就是Command相关的配置,熔断器相关的配置, 线程池相关的配置。很多配置都有默认值,我们可以合理的使用其默认值。

Hystrix的基本配置

HystrixCommand支持如下的配置:

GroupKey: 该命令属于哪一个组,可以帮助我们更好的组织命令。

CommandKey: 该命令的名称

ThreadPoolKey: 该命令所属线程池的名称,同样配置的命令会共享同一线程池,若不配置,会默认使用GroupKey作为线程池名称。

CommandProperties: 该命令的一些设置,包括断路器的配置,隔离策略,降级设置以及一些监控指标等。

ThreadPoolProerties:关于线程池的配置,包括线程池大小,排队队列的大小等。

Command配置

Command配置源码在HystrixCommandProperties,构造Command是通过Setter进行配置。

熔断器(Circuit Breaker)配置

Circuit Breaker配置源码在HystrixCommandProperties,构造Command时通过Setter进行配置,每种依赖使用一个Circuit Breaker

ThreadPool的配置

ThreadPool配置源码在HystrixThreadPoolProperties,构造ThreadPool是通过Setter方法进行配置的,具体配置解释和默认值如下:

小试牛刀

引入依赖

org.springframework.cloud spring-cloud-starter-netflix-hystrix 2.0.0.RELEASE

1

2

3

4

5

配置HystrixConfig

@Configuration public class HystrixConfig { @Bean public HystrixCommandAspect hystrixCommandAspect() { return new HystrixCommandAspect(); } }

1

2

3

4

Spring Cloud 学习笔记06-02----用Hystrix来限流以及进行服务隔离

5

6

7

定义接口HystrixCommand

@Service public class HelloService { @HystrixCommand( fallbackMethod = "helloError", commandProperties = { @HystrixProperty(name = "execution.isolation.strategy", value = "THREAD"), @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "1000"), @HystrixProperty(name = "circuitBreaker.enabled", value = "true"), @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "2") }, threadPoolProperties = { @HystrixProperty(name = "coreSize", value = "5"), @HystrixProperty(name = "maximumSize", value = "5"), @HystrixProperty(name = "maxQueueSize", value = "10") } ) public String sayHello(String name) { try { Thread.sleep(5000); return "Hello" + name + "!"; } catch (InterruptedException e) { e.printStackTrace(); } return null; } public String helloError(String name) { return "服务器繁忙,请稍后访问!"; } }

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

调用

@RestController public class HelloController { @Autowired private HelloService helloService; @GetMapping("/hystrixTest.do") public String hystrixTest() { return helloService.sayHello("项伟"); } }

1

2

3

4

5

6

7

8

9

10

测试结果

总结

本文主要首先介绍了Hystrix的工作流程,然后介绍了Hystrix的两种隔离策略,主要是线程池的隔离策略以及信号量的隔离策略,默认的话是线程池的隔离策略,该策略可以应对突发流量。接着就是介绍了Hystrix的基本配置,其配置主要是通过@HystrixCommand注解来配置的。配置按照功能划分有Command的配置,熔断器(circuitBreaker)的配置以及线程池(threadPool)的配置。最后就是通过一个简单的demo来实际使用Hystrix。

参考

微服务容错限流Hystrix入门

hystrix基本配置项(2)

Spring Spring Cloud 任务调度

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:《猎豹行动:硝烟中的敏捷转型之旅》读书笔记DAY02:提速--工具落地,效率提升
下一篇:CGI的认识与CGIC的移植
相关文章