服务熔断-熔断器设计
文章目录
- 服务为什么需要熔断
- 熔断器设计思想
- 熔断器代码实现
服务为什么需要熔断
对于服务端采用的保护机制为服务限流。 对于服务调用端是否存在保护机制？
假如要发布一个服务 B，而服务 B 又依赖服务 C，当一个服务 A 来调用服务 B 时，服务 B 的业务逻辑调用服务 C，而这时服务 C 响应超时了，由于服务 B 依赖服务 C，C 超时直接导致 B 的业务逻辑一直等待，而这个时候服务 A 在频繁地调用服务 B，服务 B 就可能会因为堆积大量的请求而导致服务宕机。
由此可见，服务 B 调用服务 C，服务 C 执行业务逻辑出现异常时，会影响到服务 B，甚至可能会引起服务 B 宕机。这还只是 A->B->C 的情况，试想一下 A->B->C->D->……呢？在整个调用链中，只要中间有一个服务出现问题，都可能会引起上游的所有服务出现一系列的问题，甚至会引起整个调用链的服务都宕机，这是非常恐怖的。
所以说，在一个服务作为调用端调用另外一个服务时，为了防止被调用的服务出现问题而影响到作为调用端的这个服务，这个服务也需要进行自我保护。而最有效的自我保护方式就是熔断。
熔断器设计思想
熔断状态实现包括三个：闭合、断开、半开，分别对应于正常、故障、检测故障是否已被修复的场景。
- 闭合：正常情况，后台会对调用失败次数进行积累，到达一定阈值或比例时则自动启动熔断机制。
- 断开：一旦对服务的调用失败次数达到一定阈值时，熔断器就会打开，这时候对服务的调用将直接返回一个预定的错误，而不执行真正的网络调用。同时，熔断器需要设置一个固定的时间间隔，当处理请求达到这个时间间隔时会进入半熔断状态。
- 半开：在半开状态下，熔断器会对通过它的部分请求进行处理，如果对这些请求的成功处理数量达到一定比例则认为服务已恢复正常，就会关闭熔断器，反之就会打开熔断器。
熔断设计的一般思路是，在请求失败 N 次后在 X 时间内不再请求，进行熔断；然后再在 X 时间后恢复 M% 的请求，如果 M% 的请求都成功则恢复正常，关闭熔断，否则再熔断 Y 时间，依此循环。在熔断的设计中，根据 Netflix 的开源组件 hystrix 的设计，我们可以仿照以下二个模块：熔断请求判断算法、熔断恢复机制：
熔断请求判断机制算法：根据事先设置的在固定时间内失败的比例来计算。
熔断恢复：对于被熔断的请求，每隔 X 时间允许部分请求通过，若请求都成功则恢复正常。
熔断器代码实现
package main.version4.v1.client.circuitBreaker;import java.util.concurrent.atomic.AtomicInteger;/*** 管理熔断器的状态，并根据请求的成功和失败的情况进行状态转移*/
public class CircuitBreaker {// 当前状态private CircuitBreakerStatus status = CircuitBreakerStatus.CLOSED;private AtomicInteger failureCount = new AtomicInteger(0);private AtomicInteger successCount = new AtomicInteger(0);private AtomicInteger requestCount = new AtomicInteger(0);// 失败次数阈值private final int failureThreshold;// 半开启-》关闭状态的成功次数的比例private final double halfOpenSuccessRate;// 恢复时间private final long retryTimePeriod;// 上一次失败时间private long lastFailureTime = 0;public CircuitBreaker(int failureThreshold, double halfOpenSuccessRate, long retryTimePeriod){this.failureThreshold = failureThreshold;this.halfOpenSuccessRate = halfOpenSuccessRate;this.retryTimePeriod = retryTimePeriod;}// 查看当前熔断器是否允许请求通过public boolean allowRequest(){long currentTime = System.currentTimeMillis();switch (status){case OPEN:// 当前处于打开状态，超过一定时间，进入半开状态if(currentTime - lastFailureTime > retryTimePeriod){// 细化锁的粒度，将锁从allowRequest判断中移除synchronized (this){if(status == CircuitBreakerStatus.OPEN){status = CircuitBreakerStatus.HALF_OPEN;resetCounts();return true;}}}return false;case HALF_OPEN:// 在半开状态下，熔断器允许请求通过，并根据请求的成功率决定是否恢复到闭合状态或重新进入打开状态。requestCount.incrementAndGet();return true;case CLOSED:default:return true;}}// 记录成功public synchronized void recordSuccess(){if(status == CircuitBreakerStatus.HALF_OPEN) {// 半开状态下,统计成功的请求数量，当成功请求数量达到阈值后，关闭熔断器successCount.incrementAndGet();if (successCount.get() >= halfOpenSuccessRate * requestCount.get()) {status = CircuitBreakerStatus.CLOSED;resetCounts();}}else if(status == CircuitBreakerStatus.CLOSED){// 当熔断器关闭时,不清空数据}else{resetCounts();}}// 记录失败public synchronized void recordFailure(){failureCount.incrementAndGet();lastFailureTime = System.currentTimeMillis();if(status == CircuitBreakerStatus.HALF_OPEN){// 在半开状态下,请求再次失败,此时再次打开熔断器status = CircuitBreakerStatus.OPEN;lastFailureTime = System.currentTimeMillis();}else if(failureCount.get() > failureThreshold){// 失败次数达到阈值,熔断器进入打开状态,拒绝请求status = CircuitBreakerStatus.OPEN;}}// 重置次数public void resetCounts(){failureCount.set(0);successCount.set(0);requestCount.set(0);}// 获取状态public CircuitBreakerStatus getStatus(){return status;}
}enum CircuitBreakerStatus{// 关闭、开启、半开启CLOSED, OPEN, HALF_OPEN
}相关文章：
服务熔断-熔断器设计
文章目录 服务为什么需要熔断熔断器设计思想熔断器代码实现 服务为什么需要熔断 对于服务端采用的保护机制为服务限流。 对于服务调用端是否存在保护机制？ 假如要发布一个服务 B，而服务 B 又依赖服务 C，当一个服务 A 来调用服务 B 时&#x…...
生产环境中：Flume 与 Prometheus 集成
在生产环境中，将 Apache Flume 与 Prometheus 集成的过程，需要借助 JMX Exporter 或 HTTP Exporter 来将 Flume 的监控数据转换为 Prometheus 格式。以下是详细的实现方法，连同原理和原因进行逐步解释，让刚接触的初学者也能完成集…...
深度解析MySQL的刷脏机制
前言 今天天气挺好，看大家对MySQL系列这么感兴趣，继续来聊聊MySQL，在MySQL的InnoDB中Buffer Pool和LSN关系紧密相连，尤其在脏页管理和刷新过程中起着至关重要的作用。理解LSN如何同Buffer Pool协同工作，有助于深入掌握 MySQL 的写入优化机制及数据一致性保证。 Buffer P…...
Java NIO 全面详解：初学者入门指南
除了前一篇文章讲的传统的 java.io 模块，Java 还提供了更现代化、更高效的非阻塞 IO 模块，即 java.nio（New IO）。java.nio 引入了面向缓冲区（Buffer）的数据处理方式，以及多路复用器（…...
优化 Conda 下载速度：详细的代理配置和网络管理策略
优化 Conda 下载速度：详细的代理配置和网络管理策略 为了彻底解决使用 Conda 下载 PyTorch 时遇到的速度问题，并确保下载过程稳定可靠，这需要一个详细、综合的技术方案。让我们更深入地分析问题原因，然后详尽地解释采取的解决策略…...
蓝牙MCU单片机8k高回报率无线应用
随着高端无线产品性能大幅提升，相比常规蓝牙133Hz回报率，8kHz回报率作为市场最高标准，每秒上传8000个数据包。以鼠标为例，位置每秒更新8000次，刷新率较常规蓝牙提升了60倍，超低延迟、极速响应，已…...
Java抛出自定义运行运行
1.重新生成异常的.java文件 Empty：空 Exception：异常 加起来就是 空指针异常的文件 2.打上extends 运行的异常（异常的类型） 3.点击ctrlo，选着这两个快捷重写 4.在需要抛出异常的地方写上：th…...
JVM 性能调优 -- JVM常用调优工具【jps、jstack、jmap、jstats 命令】
前言： 前面我们分析怎么去预估系统资源，怎么去设置 JVM 参数以及怎么去看 GC 日志，本篇我们分享一些常用的 JVM 调优工具，我们在进行 JVM 调优的时候，通常需要借助一些工具来对系统的进行相关分析，从而确定…...
python+django自动化部署日志采用WebSocket前端实时展示
一、开发环境搭建和配置 # channels是一个用于在Django中实现WebSocket、HTTP/2和其他异步协议的库。 pip install channels#channels-redis是一个用于在Django Channels中使用Redis作为后台存储的库。它可以用于处理#WebSocket连接的持久化和消息传递。 pip install channels…...
【Flink-scala】DataStream编程模型之窗口计算-触发器-驱逐器
DataStream API编程模型 1.【Flink-Scala】DataStream编程模型之数据源、数据转换、数据输出 2.【Flink-scala】DataStream编程模型之 窗口的划分-时间概念-窗口计算程序 文章目录 DataStream API编程模型前言1.触发器1.1 代码示例 2.驱逐器2.1 代码示例 总结 前言 本小节我想…...
毕昇入门学习
schemas.py 概述 这段代码主要定义了一系列基于 Pydantic 的数据模型（BaseModel），用于数据验证和序列化，通常用于构建 API（如使用 FastAPI）。这些模型涵盖了用户认证、聊天消息、知识库管理、模型配置等多…...
实时数据开发|Flink实现数据输出--DataSinks操作
哇哦，又是快乐周五！今天主管又又又请我们喝奶茶了，是乐乐茶的草莓新品。甜甜的草莓配上糯叽叽的麻薯，喝完好满足。这应该不是什么加班信号吧哈哈哈，不加不加周五要回家。 前几天被不同的bug缠身，今天终于正…...
详解网络代理模式：规则、全局与直连的应用与配置
“详解网络代理模式：规则、全局与直连的应用与配置” 当然，为了提供更深入的理解，让我们对每种代理模式进行更详尽的探讨，包括它们的内部工作机制、具体使用场景以及在实际应用中的优势和局限。 规则模式（Rule-based…...
Nacos部署和使用（服务注册与发现、配置中心）
1. docker部署nacos 参考： docker安装nacos-CSDN博客 2.注册中心原理 在微服务远程调用的过程中，包括两个角色： 服务提供者：提供接口供其它微服务访问，比如 A-service服务消费者：调用其它微服务提供的…...
医学机器学习：数据预处理、超参数调优与模型比较的实用分析
摘要 本文介绍了医学中的机器学习，重点阐述了数据预处理、超参数调优和模型比较的技术。在数据预处理方面，包括数据收集与整理、处理缺失值、特征工程等内容，以确保数据质量和可用性。超参数调优对模型性能至关重要，介绍了多种调…...
【大数据学习 | Spark-SQL】关于RDD、DataFrame、Dataset对象
1. 概念： RDD： 弹性分布式数据集； DataFrame： DataFrame是一种以RDD为基础的分布式数据集，类似于传统数据库中的二维表格。带有schema元信息，即DataFrame所表示的二维表数据集的每一列都带有名称和类型…...
流媒体中ES流、PS流 、TS流怎么理解
在流媒体的领域中，ES流、PS流和TS流是视频和音频数据的不同封装格式。它们通常用于传输、存储和播放多媒体内容。让我们分别了解一下它们的定义和用途。 1. ES流（Elementary Stream） ES流（基本流）是最基本的视频或音…...
阿里云ECS服务器磁盘空间不足的几个文件
查看磁盘空间命令： df -h /mnt 清零 echo >nohup.out 磁盘空间不足的文件列表： 一、nohup.out：来自"nohup java -jar service.jar &"命令产生的文件，位置在服务jar所在目录 二、access.log：位于…...
pip 安装指定镜像源
pip 安装指定镜像源 使用 pip 安装时，可以通过指定镜像源来加速安装速度，尤其在网络状况不佳或需要访问国内镜像源的情况下。 常见的国内镜像源 清华大学: https://pypi.tuna.tsinghua.edu.cn/simple 阿里云: https://mirrors.aliyun.com/pypi/simple …...
)
java全栈day10--后端Web基础(基础知识)
引言：只要能通过浏览器访问的网站全是B/S架构，其中最常用的服务器就是Tomcat 在浏览器与服务器交互的时候采用的协议是HTTP协议 一、Tomcat服务器 1.1介绍 官网地址：Apache Tomcat - Welcome! 1.2基本使用(网上有安装教程，建议…...
GPT（Generative Pre-trained Transformer） 和 Transformer的比较
GPT（Generative Pre-trained Transformer） 和 Transformer 的比较 flyfish 1. Transformer 是一种模型架构 Transformer 是一种通用的神经网络架构，由 Vaswani 等人在论文 “Attention Is All You Need”（2017）中提…...
大数据营销
大数据营销是一个热门的大数据应用。对于多数企业而言，大数据营销的主要价值源于以下几个方面。 市场预测与决策分析支持 数据对市场预测及决策分析的支持，早就在数据分析与数据挖掘盛行的年代被提出过。沃尔玛著名的“啤酒与尿布”案例就是那个时候的杰…...
数据字典的实现与应用 —— 提高系统灵活性与维护效率的关键
目录 前言1. 数据字典的基本概念1.1 什么是数据字典1.2 数据字典的主要特点 2. 数据字典的优势2.1 提高代码复用性2.2 提升系统的灵活性2.3 方便非技术人员管理2.4 减少错误概率 3. 数据字典在若依中的实现3.1 若依框架简介3.2 数据字典的结构设计 4. 若依框架中数据字典的配置…...
Scrapy管道设置和数据保存
1.1 介绍部分： 文字提到常用的Web框架有Django和Flask，接下来将学习一个全球范围内流行的爬虫框架Scrapy。 1.2 内容部分： Scrapy的概念、作用和工作流程 Scrapy的入门使用 Scrapy构造并发送请求 Scrapy模拟登陆 Scrapy管道的使用 Scrapy中…...
Jenkins的使用
文章目录 一、Jenkins是什么\有什么用\与GitLab的对比二、Jenkins的安装与配置Jenkins的安装方式在Linux上安装Jenkins：在Windows上安装Jenkins：配置Jenkins： （可选）配置启动用户为root（一定要是root吗??…...
计算机基础 原码反码补码问题
整数的二进制的表示形式：其实有三种 原码：直接根据数值写出的二进制序列就是原码 反码：原码的符号位不变，其他位按位取反就是反码 补码：反码1，就是补码 负数：-1 以补码形式存放在内存 写出 -1…...
)
ORB-SLAM2 ----- LocalMapping::SearchInNeighbors()
文章目录 一、函数意义二、函数讲解三、函数代码四、本函数使用的匹配方法ORBmatcher::Fuse()1. 函数讲解2. 函数代码 四、总结 一、函数意义 本函数是用于地图点融合的函数，前面的函数生成了新的地图点，但这些地图点可能在前面的关键帧中已经生成过了&a…...
游戏引擎学习第27天
仓库:https://gitee.com/mrxiao_com/2d_game 欢迎 项目的开始是从零开始构建一款完整的游戏，完全不依赖任何库或引擎。这样做有两个主要原因：首先，因为这非常有趣；其次，因为它非常具有教育意义。了解游戏开发的低层次…...
【超全总结】深度学习分割模型的损失函数类别及应用场景
《------往期经典推荐------》 一、AI应用软件开发实战专栏【链接】 项目名称项目名称1.【人脸识别与管理系统开发】2.【车牌识别与自动收费管理系统开发】3.【手势识别系统开发】4.【人脸面部活体检测系统开发】5.【图片风格快速迁移软件开发】6.【人脸表表情识别系统】7.【…...
基于HTML和CSS的校园网页设计与实现
摘要 随着计算机、互联网与通信技术的进步，Internet在人们的学习、工作和生活中的地位也变得越来越高，校园网站已经成为学校与学生，学生与学生之间交流沟通的重要平台，对同学了解学校内发生的各种事情起到了重要的作用。学校网站…...
)
深度学习基础02_损失函数BP算法(上)
目录 一、损失函数 1、线性回归损失函数 1.MAE损失 2.MSE损失 3.SmoothL1Loss 2、多分类损失函数--CrossEntropyLoss 3、二分类损失函数--BCELoss 4、总结 二、BP算法 1、前向传播 1.输入层(Input Layer)到隐藏层(Hidden Layer) 2.隐藏层(Hidden Layer)到输出层(Ou…...
Flutter：列表分页，上拉加载下拉刷新，在GetBuilder模板使用方式
GetBuilder模板使用方式参考上一节 本篇主要代码记录如何使用上拉加载下拉刷新， 接口请求和商品组件的代码不包括在内 pubspec.yaml装包 cupertino_icons: ^1.0.8# 分页 上拉加载，下拉刷新pull_to_refresh_flutter3: 2.0.2商品列表：controlle…...
使用eclipse构建SpringBoot项目
我这里用eclipse2018版本做演示，大家有需要的可以下载Eclipse Downloads | The Eclipse Foundation 1.打开eclipse，选择存放代码的位置 2.选择 file >> new >> project >> 选择springboot文件下的 spring starter project 2.这里选择N…...
Linux系统存储挂载与管理：从基础到高级
标题：Linux系统存储挂载与管理：从基础到高级 摘要 在Linux系统中，合理的存储管理和分配对于系统的性能、稳定性和资源利用至关重要。本文将详细介绍存储挂载的基本概念、如何进行存储分配和管理，并解释系统盘的作用。通过这些内…...
Flutter 权限申请
这篇文章是基于permission_handler 10.2.0版本写的 前言 在App开发过程中我们经常要用到各种权限，我是用的是permission_handler包来实现权限控制的。 pub地址：https://pub.dev/packages/permission_handler permission_handler 权限列表 变量 Androi…...
Linux之信号的产生，保存，捕捉
Linux之信号的产生，保存，捕捉处理 一.信号的概念1.1概念1.2分类 二.信号的产生2.1通过键盘产生的信号2.2系统调用接口产生的信号2.3硬件异常产生的信号2.4软件条件产生的信号 三.信号的保存四.信号的捕捉五.信号的其他杂碎知识5.1可重入函数5.2volatile关…...
基于AutoEncode自编码器的端到端无线通信系统matlab误码率仿真
目录 1.算法仿真效果 2.算法涉及理论知识概要 3.MATLAB核心程序 4.完整算法代码文件获得 1.算法仿真效果 matlab2022a仿真结果如下（完整代码运行后无水印）： 仿真操作步骤可参考程序配套的操作视频。 2.算法涉及理论知识概要 自编码器是…...
泛化调用 ：在没有接口的情况下进行RPC调用
什么是泛化调用？ 在RPC调用的过程中，调用端向服务端发起请求，首先要通过动态代理，动态代理可以屏蔽RPC处理流程，使得发起远程调用就像调用本地一样。 RPC调用本质：调用端向服务端发送一条请求消息&#x…...
2025年人工智能，自动化与机械工程国际学术会议（AIAME2025）
早鸟通道开启： 2025年人工智能，自动化与机械工程国际学术会议（AIAME2025） 2025 International Conference on Artificial Intelligence, Automation, and Mechanical Engineering 【重要日期】 早鸟征稿截止日期：…...
)
docker compose 快速搭建Nacos单节点测试环境(mysql 版)
〓 参考： https://nacos.io/docs/latest/quickstart/quick-start-docker/?sourcewuyi https://github.com/nacos-group/nacos-docker https://nacos.io/docs/latest/manual/admin/deployment/deployment-standalone/?sourcewuyi https://nacos.io/docs/latest/man…...
数字3D虚拟展厅成熟运用于旅游业
在数字空间展览会与VR3D虚拟企业展厅设计的兴起中，我们迎来了互联网、物联网与3D技术融合的大时代。这些企业虚拟展厅主要依托互联网作为传播媒介，利用图片、文字和Flash动画等形式，生动展现企业的核心产品。作为一种新型的网络信息技术展厅&…...
模数转换芯片AD9215
AD9215 是 Analog Devices 公司推出的一款高性能、低功耗、单通道 10 位模数转换器（ADC）。它具有采样速率高达 65 MSPS 或 105 MSPS（不同型号），并广泛应用于通信、成像和仪器仪表等领域。 AD9215 的关键特性 分辨率： 10 位，适合高精度应用。采样速率： 两种型号： AD921…...
MongoDB注入攻击测试与防御技术深度解析
MongoDB注入攻击测试与防御技术深度解析 随着NoSQL数据库的兴起，MongoDB作为其中的佼佼者，因其灵活的数据模型和强大的查询能力，受到了众多开发者的青睐。然而，与任何技术一样，MongoDB也面临着安全威胁，其…...
总结贴:Servlet过滤器、MVC拦截器
一:Servlet过滤器 1.1解析 Filter 即为过滤，用于请求到达Servlet之前(Request),以及再Servlet方法执行完之后返回客户端进行后处理(HttpServletResponse)。简单说就是对请求进行预处理，对响应进行后处理 在请求到达Servlet之前,可以经过多个Filt…...
鸿蒙开发-在ArkTS中制作音乐播放器
音频播放功能实现 导入音频播放相关模块 首先需要从ohos.multimedia.audio模块中导入必要的类和接口用于音频播放。例如： import audio from ohos.multimedia.audio;创建音频播放器实例并设置播放源 可以通过audio.createAudioPlayer()方法创建一个音频播放器实…...
mapstruct DTO转换使用
定义一个基础接口 package com.example.mapstruct;import org.mapstruct.Named;import java.time.LocalDate; import java.time.LocalDateTime; import java.time.ZoneId; import java.time.ZonedDateTime; import java.util.Date; import java.util.List;/*** Author zmn Dat…...
C++内存对齐
一、内存对齐的定义 内存对齐是一种计算机内存管理策略。在这种策略下，数据存储的内存地址必须是数据类型大小（或者是某个特定对齐模数）的整数倍。 例如，在一个 32 位系统中，如果一个int类型（通常占用 4 …...
关于node全栈项目打包发布linux项目问题总集
1.用pm2部署nest 说明：如果一开始将nest直接打包放到linux服务器上用pm2执行则会报错，这是因为tsconfig.build.tsbuildinfo文件的路径以及相关依赖问题。 报错会为：什么东西找不到.... 所以建议以下为步骤一步一步配置 将整个nest添加压缩包直…...
40 基于单片机的温湿度检测判断系统
目录 一、主要功能 二、硬件资源 三、程序编程 四、实现现象 一、主要功能 基于STC89C52单片机，采用dht11温湿度传感器检测温湿度， 通过lcd1602显示屏各个参数，四个按键分别可以增加温湿度的阈值， 如果超过阈值，则…...
Vue 原理详解
Vue 原理详解 Vue.js 是一个渐进式框架，它通过数据驱动视图更新和响应式编程使得前端开发变得更加简单高效。在 Vue 的内部实现中，编译过程和响应式机制是两个至关重要的组成部分。本文将详细介绍 Vue.js 的编译器、响应式系统和运行时的工作原理&#…...