手机网站模板网,怎么做美食的网站,网站后台账号,备案查询网Hystrix
服务熔断 分布式系统面临的问题 复杂分布式体系结构中的应用程序有数十个依赖关系#xff0c;每个依赖关系在某些时候将不可避免失败#xff01;
服务雪崩
多个微服务之间调用的时候#xff0c;假设微服务A调用微服务B和微服务C#xff0c;微服务B和微服务C又调…Hystrix
服务熔断 分布式系统面临的问题 复杂分布式体系结构中的应用程序有数十个依赖关系每个依赖关系在某些时候将不可避免失败
服务雪崩
多个微服务之间调用的时候假设微服务A调用微服务B和微服务C微服务B和微服务C又调用其他的微服务这就是所谓的“扇出”如果扇出的链路上某个微服务的调用响应时间过长或者不可用对微服务A的调用就会占用越来越多的系统资源进而引起系统崩溃所谓的“雪崩效应”。 对于高流量的应用来说单一的后端依赖可能会导致所有服务器上的所有资源都在几十秒内饱和。比失败更糟糕的是这些应用程序还可能导致服务之间的延迟增加备份队列线程和其他系统资源紧张导致整个系统发生更多的级联故障这些都表示需要对故障和延迟进行隔离和管理以达到单个依赖关系的失败而不影响整个应用程序或系统运行。
我们需要弃车保帅
Hystrix作用
Hystrix是一个应用于处理分布式系统的延迟和容错的开源库在分布式系统里许多依赖不可避免的会调用失败比如超时异常等Hystrix 能够保证在一个依赖出问题的情况下不会导致整个体系服务失败避免级联故障以提高分布式系统的弹性。
“断路器”本身是一种开关装置当某个服务单元发生故障之后通过断路器的故障监控 (类似熔断保险丝) 向调用方返回一个服务预期的可处理的备选响应 (FallBack) 而不是长时间的等待或者抛出调用方法无法处理的异常这样就可以保证了服务调用方的线程不会被长时间不必要的占用从而避免了故障在分布式系统中的蔓延乃至雪崩。 Hystrix能干嘛
服务降级服务熔断服务限流接近实时的监控…
当一切正常时请求流可以如下所示 当许多后端系统中有一个潜在阻塞服务时它可以阻止整个用户请求 随着大容量通信量的增加单个后端依赖项的潜在性会导致所有服务器上的所有资源在几秒钟内饱和。
应用程序中通过网络或客户端库可能导致网络请求的每个点都是潜在故障的来源。比失败更糟糕的是这些应用程序还可能导致服务之间的延迟增加从而备份队列、线程和其他系统资源从而导致更多跨系统的级联故障。 当使用Hystrix包装每个基础依赖项时上面的图表中所示的体系结构会发生类似于以下关系图的变化。每个依赖项是相互隔离的限制在延迟发生时它可以填充的资源中并包含在回退逻辑中该逻辑决定在依赖项中发生任何类型的故障时要做出什么样的响应 官网资料https://github.com/Netflix/Hystrix/wiki
服务熔断服务端
什么是服务熔断?
熔断机制是赌赢雪崩效应的一种微服务链路保护机制。
当扇出链路的某个微服务不可用或者响应时间太长时会进行服务的降级进而熔断该节点微服务的调用快速返回错误的响应信息。检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况当失败的调用到一定阀值缺省是5秒内20次调用失败就会启动熔断机制。熔断机制的注解是HystrixCommand。
服务熔断解决如下问题
当所依赖的对象不稳定时能够起到快速失败的目的快速失败后能够根据一定的算法动态试探所依赖对象是否恢复。
案例
新建springcloud-provider-dept-hystrix-8001模块并拷贝springcloud-provider-dept–8001内的pom.xml、resource和Java代码进行初始化并调整。
导入hystrix依赖
!--导入Hystrix依赖--
dependencygroupIdorg.springframework.cloud/groupIdartifactIdspring-cloud-starter-hystrix/artifactIdversion1.4.6.RELEASE/version
/dependency调整yml配置文件
server:port: 8001# mybatis配置
mybatis:# springcloud-api 模块下的pojo包type-aliases-package: com.haust.springcloud.pojo# 本模块下的mybatis-config.xml核心配置文件类路径config-location: classpath:mybatis/mybatis-config.xml# 本模块下的mapper配置文件类路径mapper-locations: classpath:mybatis/mapper/*.xml# spring配置
spring:application:#项目名name: springcloud-provider-deptdatasource:# 德鲁伊数据源type: com.alibaba.druid.pool.DruidDataSourcedriver-class-name: com.mysql.jdbc.Driverurl: jdbc:mysql://localhost:3306/db01?useUnicodetruecharacterEncodingutf-8username: rootpassword: root# Eureka配置配置服务注册中心地址
eureka:client:service-url:# 注册中心地址7001-7003defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/instance:instance-id: springcloud-provider-dept-hystrix-8001 #修改Eureka上的默认描述信息prefer-ip-address: true #改为true后默认显示的是ip地址而不再是localhost#info配置
info:app.name: haust-springcloud #项目的名称company.name: com.haust #公司的名称prefer-ip-address: false: prefer-ip-address: true 修改controller
/*** Auther: csp1999* Date: 2020/05/17/22:06* Description: 提供Restful服务*/
RestController
public class DeptController {Autowiredprivate DeptService deptService;/*** 根据id查询部门信息* 如果根据id查询出现异常,则走hystrixGet这段备选代码* param id* return*/HystrixCommand(fallbackMethod hystrixGet)RequestMapping(/dept/get/{id})//根据id查询public Dept get(PathVariable(id) Long id){Dept dept deptService.queryById(id);if (deptnull){throw new RuntimeException(这个idid,不存在该用户或信息无法找到~);}return dept;}/*** 根据id查询备选方案(熔断)* param id* return*/public Dept hystrixGet(PathVariable(id) Long id){return new Dept().setDeptno(id).setDname(这个idid,没有对应的信息,null---Hystrix~).setDb_source(在MySQL中没有这个数据库);}
}为主启动类添加对熔断的支持注解EnableCircuitBreaker
/*** Auther: csp1999* Date: 2020/05/17/22:09* Description: 启动类*/
SpringBootApplication
EnableEurekaClient // EnableEurekaClient 客户端的启动类在服务启动后自动向注册中心注册服务
EnableDiscoveryClient // 服务发现~
EnableCircuitBreaker // 添加对熔断的支持注解
public class HystrixDeptProvider_8001 {public static void main(String[] args) {SpringApplication.run(HystrixDeptProvider_8001.class,args);}
}测试
使用熔断后当访问一个不存在的id时前台页展示数据如下: 而不适用熔断的springcloud-provider-dept–8001模块访问相同地址会出现下面状况: 因此为了避免因某个微服务后台出现异常或错误而导致整个应用或网页报错使用熔断是必要的
显示服务的ip
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kcig9Ijz-1610712704721)(C:\Users\王东梁\AppData\Roaming\Typora\typora-user-images\image-20210115162939925.png)]
服务降级客户端
什么是服务降级?
服务降级是指 当服务器压力剧增的情况下根据实际业务情况及流量对一些服务和页面有策略的不处理或换种简单的方式处理从而释放服务器资源以保证核心业务正常运作或高效运作。说白了就是尽可能的把系统资源让给优先级高的服务。
资源有限而请求是无限的。如果在并发高峰期不做服务降级处理一方面肯定会影响整体服务的性能严重的话可能会导致宕机某些重要的服务不可用。所以一般在高峰期为了保证核心功能服务的可用性都要对某些服务降级处理。比如当双11活动时把交易无关的服务统统降级如查看蚂蚁深林查看历史订单等等。
服务降级主要用于什么场景呢当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时为了保证重要或基本的服务能正常运行可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。
降级的方式可以根据业务来可以延迟服务比如延迟给用户增加积分只是放到一个缓存中等服务平稳之后再执行 或者在粒度范围内关闭服务比如关闭相关文章的推荐。 由上图可得当某一时间内服务A的访问量暴增而B和C的访问量较少为了缓解A服务的压力这时候需要B和C暂时关闭一些服务功能去承担A的部分服务从而为A分担压力叫做服务降级。
服务降级需要考虑的问题
1那些服务是核心服务哪些服务是非核心服务2那些服务可以支持降级那些服务不能支持降级降级策略是什么3除服务降级之外是否存在更复杂的业务放通场景策略是什么
自动降级分类
1超时降级主要配置好超时时间和超时重试次数和机制并使用异步机制探测回复情况
2失败次数降级主要是一些不稳定的api当失败调用次数达到一定阀值自动降级同样要使用异步机制探测回复情况
3故障降级比如要调用的远程服务挂掉了网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常则可以直接降级。降级后的处理方案有默认值比如库存服务挂了返回默认现货、兜底数据比如广告挂了返回提前准备好的一些静态页面、缓存之前暂存的一些缓存数据
4限流降级秒杀或者抢购一些限购商品时此时可能会因为访问量太大而导致系统崩溃此时会使用限流来进行限制访问量当达到限流阀值后续请求会被降级降级后的处理方案可以是排队页面将用户导流到排队页面等一会重试、无货直接告知用户没货了、错误页如活动太火爆了稍后重试。
入门案例
在springcloud-api模块下的service包中新建降级配置类DeptClientServiceFallBackFactory.java
/*** Auther: csp1999* Date: 2020/05/20/9:18* Description: Hystrix服务降级 ~*/
Component
public class DeptClientServiceFallBackFactory implements FallbackFactory {Overridepublic DeptClientService create(Throwable cause) {return new DeptClientService() {Overridepublic Dept queryById(Long id) {return new Dept().setDeptno(id).setDname(id id 没有对应的信息客户端提供了降级的信息这个服务现在已经被关闭).setDb_source(没有数据~);}Overridepublic ListDept queryAll() {return null;}Overridepublic Boolean addDept(Dept dept) {return false;}};}
}在DeptClientService中指定降级配置类DeptClientServiceFallBackFactory
Component //注册到spring容器中
//FeignClient:微服务客户端注解,value:指定微服务的名字,这样就可以使Feign客户端直接找到对应的微服务
FeignClient(value SPRINGCLOUD-PROVIDER-DEPT,fallbackFactory DeptClientServiceFallBackFactory.class)//fallbackFactory指定降级配置类
public interface DeptClientService {GetMapping(/dept/get/{id})public Dept queryById(PathVariable(id) Long id);GetMapping(/dept/list)public ListDept queryAll();GetMapping(/dept/add)public Boolean addDept(Dept dept);
}在springcloud-consumer-dept-feign模块中开启降级
server:port: 80# Eureka配置
eureka:client:register-with-eureka: false # 不向 Eureka注册自己service-url: # 从三个注册中心中随机取一个去访问defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/# 开启降级feign.hystrix
feign:hystrix:enabled: true服务熔断VS降级VS限流
服务熔断—服务端某个服务超时或异常引起熔断~类似于保险丝(自我熔断)服务降级—客户端从整体网站请求负载考虑当某个服务熔断或者关闭之后服务将不再被调用此时在客户端我们可以准备一个 FallBackFactory 返回一个默认的值(缺省值)。会导致整体的服务下降但是好歹能用比直接挂掉强。触发原因不太一样服务熔断一般是某个服务下游服务故障引起而服务降级一般是从整体负荷考虑管理目标的层次不太一样熔断其实是一个框架级的处理每个微服务都需要无层级之分而降级一般需要对业务有层级之分比如降级一般是从最外围服务开始实现方式不太一样服务降级具有代码侵入性(由控制器完成/或自动降级)熔断一般称为自我熔断。
熔断降级限流
限流限制并发的请求访问量超过阈值则拒绝
降级服务分优先级牺牲非核心服务不可用保证核心服务稳定从整体负荷考虑
熔断依赖的下游服务故障触发熔断避免引发本系统崩溃系统自动执行和恢复
Dashboard 流监控
新建springcloud-consumer-hystrix-dashboard模块
添加依赖
!--Hystrix依赖--
dependencygroupIdorg.springframework.cloud/groupIdartifactIdspring-cloud-starter-hystrix/artifactIdversion1.4.6.RELEASE/version
/dependency
!--dashboard依赖--
dependencygroupIdorg.springframework.cloud/groupIdartifactIdspring-cloud-starter-hystrix-dashboard/artifactIdversion1.4.6.RELEASE/version
/dependency
!--Ribbon--
dependencygroupIdorg.springframework.cloud/groupIdartifactIdspring-cloud-starter-ribbon/artifactIdversion1.4.6.RELEASE/version
/dependency
!--Eureka--
dependencygroupIdorg.springframework.cloud/groupIdartifactIdspring-cloud-starter-eureka/artifactIdversion1.4.6.RELEASE/version
/dependency
!--实体类web--
dependencygroupIdcom.haust/groupIdartifactIdspringcloud-api/artifactIdversion1.0-SNAPSHOT/version
/dependency
dependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-web/artifactId
/dependency
!--热部署--
dependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-devtools/artifactId
/dependency主启动类
SpringBootApplication
// 开启Dashboard
EnableHystrixDashboard
public class DeptConsumerDashboard_9001 {public static void main(String[] args) {SpringApplication.run(DeptConsumerDashboard_9001.class,args);}
}给springcloud-provider-dept-hystrix-8001模块下的主启动类添加如下代码,添加监控
SpringBootApplication
EnableEurekaClient //EnableEurekaClient 客户端的启动类在服务启动后自动向注册中心注册服务
public class DeptProvider_8001 {public static void main(String[] args) {SpringApplication.run(DeptProvider_8001.class,args);}//增加一个 ServletBeanpublic ServletRegistrationBean hystrixMetricsStreamServlet(){ServletRegistrationBean registrationBean new ServletRegistrationBean(new HystrixMetricsStreamServlet());//访问该页面就是监控页面registrationBean.addUrlMappings(/actuator/hystrix.stream);return registrationBean;}
}访问http://localhost:9001/hystrix 进入监控页面 效果如下图 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-wEUywKlj-1610712704723)(C:\Users\王东梁\AppData\Roaming\Typora\typora-user-images\image-20210115190406423.png)]
一些问题解决办法
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-JzxwAsBy-1610712704725)(C:\Users\王东梁\AppData\Roaming\Typora\typora-user-images\image-20210115190154045.png)]
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ME07L0Y7-1610712704728)(C:\Users\王东梁\AppData\Roaming\Typora\typora-user-images\image-20210115190205062.png)]
