有专门做试吃的网站吗,大连网站建设新图闻,没有网站怎么做百度竞价,不建网站可不可以做cpa这是《百图解码支付系统设计与实现》专栏系列文章中的第#xff08;19#xff09;篇#xff0c;也是流量控制系列的第#xff08;6#xff09;篇。点击上方关注#xff0c;深入了解支付系统的方方面面。
本篇聊聊流量控制与熔断利器Sentinel#xff0c;背后的原理…这是《百图解码支付系统设计与实现》专栏系列文章中的第19篇也是流量控制系列的第6篇。点击上方关注深入了解支付系统的方方面面。
本篇聊聊流量控制与熔断利器Sentinel背后的原理适用的场景及存在的不足。不涉及具体的配置具体配置请参考官方文档。 1. 前言
在流量控制系列文章中的前五篇分别介绍了固定时间窗口算法、滑动时间窗口算法、漏桶原理、令牌桶、消息中间件如何应用到分布式环境下流量与并发控制。
我们做个简单回顾
固定窗口算法简单对突然流量响应不够灵活。超过流量的会直接拒绝通常用于限流。
滑动窗口 算法简单对突然流量响应比固定窗口灵活。超过流量的会直接拒绝通常用于限流。
漏桶算法在固定窗口的基础之上使用队列缓冲流量。提供了稳定的流量输出适用于对流量平滑性有严格要求的场景。
令牌桶算法在滑动窗口的基础之上使用队列缓冲流量。提供了稳定的流量输出且能应对突发流量。
分布式消息中间件在支付场景的削峰填谷用得比较多且对精度没有那么苛刻的场景。 今天介绍另一个流量控制和熔断机制利器Sentinel。
需要说明的是这里只是做简单介绍更具体的使用建议参考官方文档。
2. Sentinel简单介绍 图片来自网络。
Sentinel 是由阿里巴巴开源的一个轻量级的、高性能的流量控制、熔断降级的 Java 库。主要用于在分布式系统中保护服务的稳定性和可靠性通过实现流量控制、熔断降级、系统负载保护等功能来防止应用级别的故障和服务级别的雪崩效应。
主要特点
丰富的流量控制策略Sentinel 提供了多种流量控制策略如 QPS、线程数、响应时间等。熔断降级机制当资源的运行指标超过阈值时Sentinel 可以自动进行熔断降级处理防止系统过载。系统负载保护能够根据系统的负载情况如 CPU 使用率、平均负载等来自动调整流量入口。实时监控和开放的指标提供实时监控和丰富的指标数据方便用户进行实时的流量监控和调整。多维度规则授权支持多种维度的规则配置如调用关系、调用来源、API 级别等。高可用性和可扩展性Sentinel 的设计考虑了高可用性易于扩展支持与其他组件和服务的集成。轻量级和高性能其对系统的性能影响很小非常适合高并发的场景。 3. 流量控制
Sentinel 的流量控制基于资源的定义、流量控制规则的设定以及运行时的流量控制处理。在 Sentinel 中流量控制主要是通过对服务调用或资源访问的限制来实现的。 1. 资源的定义
在 Sentinel 中资源通常是指需要被保护的服务调用点或关键代码段。例如一个 HTTP 接口、一个内部定义的服务调用或一个数据库查询等都可以被定义为资源。 2. 流量控制规则
Sentinel 允许对每个资源设置流量控制规则。这些规则可以基于多种不同的标准例如
QPS每秒查询次数限制资源每秒可以处理的请求数。并发线程数限制资源同时处理的最大并发请求数。响应时间当资源的响应时间超过设定阈值时可以触发流量控制措施。 3. 流量控制处理 一旦流量达到设定的阈值Sentinel 会根据配置的流量控制效果来处理额外的流量。主要包括
直接拒绝Fast Fail立即拒绝访问请求通常用于防止系统过载。预热Warm Up通过逐渐增加流量的方式来预热服务适用于系统刚启动时。排队等待Rate Limiter使请求排队并逐个处理保证系统稳定。排队还可以设定超时时间。 4.流量计算与排队
Sentinel 内部也是使用滑动时间窗口算法来计算资源的实时流量。有兴趣的同学可以自己去翻一下源代码。
排队通常使用先进先出FIFO的队列实现。 4. 熔断保护与自动恢复 熔断是一种保护系统的策略当检测到某个微服务不稳定或者响应时间过长时Sentinel会自动切断对该服务的请求防止系统雪崩。Sentinel的熔断策略是基于RT响应时间、异常比例和异常数等不同的指标来实现的。一旦触发熔断规则Sentinel会暂时阻断请求直到服务恢复正常。 1. 熔断策略
Sentinel 提供多种熔断策略典型的包括
慢调用比例如果资源的响应时间超过阈值的调用比例超过设定值则触发熔断。异常比例如果资源的异常调用比例超过设定值则触发熔断。异常数如果在一个统计窗口内资源的异常数超过设定值则触发熔断。
2. 统计窗口
滑动窗口Sentinel 通常使用滑动窗口来统计资源的性能指标如响应时间、调用异常等。时间间隔Sentinel 允许配置统计窗口的时间间隔以便根据应用的实际需求调整熔断的灵敏度。
3. 熔断状态与自动化恢复
Sentinel 的熔断机制有三种状态
关闭正常状态请求正常处理。打开熔断状态所有对资源的请求都会被立即拒绝。半开一段时间后Sentinel 会自动将熔断器置为半开状态允许部分请求通过以检测资源的健康状态。如果这些请求成功则关闭熔断器如果失败则再次打开熔断器。 5. 支付系统应用场景
Sentinel广泛应用于微服务架构中可以应对突发流量、分布式服务之间的依赖保护、系统负载过高等情况。在电商、支付、金融等行业随处可见。
我们主要用在各子域之间的限流。每年大促就会梳理业务请求量算出流量分布图根据流量分布图设置每个子应用各接口的限流值。 6. 无法适用的场景
Sentinel的限流有两种模式1总量除以机器数然后做单机限流。2拿出一台机器做集群结点然后做集群限流。
但无论哪种模式都无法解决跨服务单元的限流。比如部署了两个机房两个机房合用限流到1TPSSentinel是无法做到的。这个时候就需要用到我们前面几篇文章中讲到的自己实现的限流方案比如漏桶令牌桶等。 7. 结束语
在当前微服务架构的盛行的时代Sentinel作为一个高效的流量控制与熔断工具为确保系统的稳定性和可用性提供了强有力的支持。通过使用Sentinel我们可以大大提高在线支付系统等复杂应用的稳定性和用户体验。
但另一方面我们也需要知道不同的工具有不同的应用场景Sentinel解决的是限流和熔断消息中间件解决削峰填谷和应用间解耦自己手撸一个漏桶或令牌桶解决极低TPS这种特殊场景。 8.精选
专栏地址百图解码支付系统设计与实现《百图解码支付系统设计与实现》专栏介绍《百图解码支付系统设计与实现》专栏大纲及文章链接汇总进度更新于2023.1.15领域相关部分支付行业黑话支付系统必知术语一网打尽跟着图走学支付在线支付系统设计的图解教程图解收单平台打造商户收款的高效之道图解结算平台准确高效给商户结款图解收银台支付系统承上启下的关键应用图解支付引擎资产流动的枢纽图解渠道网关不只是对接渠道的接口一
技术专题部分交易流水号的艺术掌握支付系统的业务ID生成指南揭密支付安全为什么你的交易无法被篡改金融密语揭秘支付系统的加解密艺术支付系统日志设计完全指南构建高效监控和问题排查体系的关键基石避免重复扣款分布式支付系统的幂等性原理与实践支付系统的心脏简洁而精妙的状态机设计与核心代码实现精确掌控并发固定时间窗口算法在分布式环境下并发流量控制的设计与实现精确掌控并发滑动时间窗口算法在分布式环境下并发流量控制的设计与实现
