当前位置: 首页 > news >正文

关于otter监控告警使用

一、背景       

        近期在使用otter完成单机房单向同步时,常常遇到channel假死的情况,导致Pipeline同步停止,系统表数据同步停止,影响生产环境用户数据查询相关的功能,虽然事后能够通过停channel后再启用channel重新启用同步任务,恢复需要同步的数据,但时常出现该问题而不能及时发现让人头疼不已。通过查询相关的资料有发现早有同学遇到过类似的问题,初步认为是otter的调度算法导致死锁导致任务停止,但目前仍然没有石锤,且otter开源团队目前未对该问题进行官方解答。具体问题描述可参考:https://github.com/alibaba/otter/issues/911

       为了解决该问题,曾尝试在线下复现该问题,但是以失败告终,然后就换了一个思路:是否能及时发现同步停止的问题呢?按照这个思路我看到了官方其实目前支持五种同步的告警:延迟、Pipeline延迟、Process延迟、Position延迟、异常监控告警,同时还提供了告警自我恢复机制;通过使用测试其中的Pipeline延迟机制并开启自我恢复机制,发现确实能够及时的完成告警,而且在触发自我恢复阀的情况,系统能够自动完成channel的stop,然后自动再start,channel的同步任务恢复正常,现就针对集中类型的监控告警机制进行说明。

二、otter监控机制解析:

       首先得看一下otter监控机制的流程:1.首先我们通过otter的控制台为channel下的Pipeline配置监控。2.otter-manager在启动时会启用一个单线程的定时任务线程池,定时任务每120秒执行一次。2.1 该线程池任务在执行时会查询当前所有启用的监控记录;2.2 然后对监控规则按照Pipeline进行分组;2.3 遍历分组的后的具体规则。2.4 查询Pipeline信息,然后根据Pipeline中的channelId查询zookeeper上对应channel的状态,若channel的状态节点为null或者未停止状态则不执行后监控逻辑。2.5 根据不同的监控类型执行具体的判断逻辑;若当前的统计的数据满足监控告警的条件则执行告警逻辑,若开启了自我恢复机制则尝试恢复channel任务同步。源码分析如下:

#一、SelfMonitor中的start()开启监控
private synchronized void start() {if (executor == null) {// 创建定时任务线程池,单线程executor = new ScheduledThreadPoolExecutor(DEFAULT_POOL, new NamedThreadFactory("Self-Monitor"),new ThreadPoolExecutor.CallerRunsPolicy());}if (future == null) {// 每120秒执行一次future = executor.scheduleWithFixedDelay(new Runnable() {public void run() {try {// 调用GlobalMonitor#explore()monitor.explore();} catch (Exception e) {log.error("self-monitor failed.", e);}}}, interval, interval, TimeUnit.SECONDS);}}#二、GlobalMonitor#explore() 获取监控列表,默认是并行执行监控任务
public void explore() {// 查询了所有启用的监控列表通知根据Pipeline进行分组Map<Long, List<AlarmRule>> rules = alarmRuleService.getAlarmRules(AlarmRuleStatus.ENABLE);if (!CollectionUtils.isEmpty(rules)) {if (needConcurrent) {concurrentProcess(rules);} else {// 串行serialProcess(rules);}} else {log.warn("no enabled alarm rule at all. Check the rule setting please!");}// 自动恢复机制if (recoveryPaused) {List<Long> channelIds = channelService.listAllChannelId();if (needConcurrent) {concurrentProcess(channelIds);} else {// 串行serialProcess(channelIds);}}}#三、GlobalMonitor#concurrentProcess()将每个Pipeline的监控列表提交给线程池去执行
private void concurrentProcess(Map<Long, List<AlarmRule>> rules) {ExecutorCompletionService completionExecutor = new ExecutorCompletionService(executor);List<Future> futures = new ArrayList<Future>();for (Entry<Long, List<AlarmRule>> entry : rules.entrySet()) {final List<AlarmRule> alarmRules = entry.getValue();futures.add(completionExecutor.submit(new Callable<Object>() {@Overridepublic Object call() throws Exception {pipelineMonitor.explore(alarmRules);return null;}}));}List<Throwable> exceptions = new ArrayList<Throwable>();int index = 0;int size = futures.size();while (index < size) {try {Future<?> future = completionExecutor.take();future.get();} catch (InterruptedException e) {exceptions.add(e);} catch (ExecutionException e) {exceptions.add(e);}index++;}if (!exceptions.isEmpty()) {StringBuilder sb = new StringBuilder(exceptions.size() + " exception happens in global monitor\n");sb.append("exception stack start :\n");for (Throwable t : exceptions) {sb.append(ExceptionUtils.getStackTrace(t));}sb.append("exception stack end \n");throw new IllegalStateException(sb.toString());}}#四、PipelineMonitor#explore(List<AlarmRule> rules)完成不同类型的监控分发执行
public void explore(List<AlarmRule> rules) {Long pipelineId = rules.get(0).getPipelineId();Pipeline pipeline = pipelineService.findById(pipelineId);// 如果处于stop状态,则忽略报警ChannelStatus status = arbitrateManageService.channelEvent().status(pipeline.getChannelId());if (status == null || status.isStop()) {return;}List<AlarmRule> delayTimeRules = new LinkedList<AlarmRule>();List<AlarmRule> exceptonRules = new LinkedList<AlarmRule>();List<AlarmRule> pipelineTimeoutRules = new LinkedList<AlarmRule>();List<AlarmRule> processTimeoutRules = new LinkedList<AlarmRule>();List<AlarmRule> positionTimeoutRules = new LinkedList<AlarmRule>();Date now = new Date();for (AlarmRule rule : rules) {switch (rule.getMonitorName()) {case DELAYTIME:if (checkEnable(rule, now)) {delayTimeRules.add(rule);}break;case EXCEPTION:if (checkEnable(rule, now)) {exceptonRules.add(rule);}break;case PIPELINETIMEOUT:if (checkEnable(rule, now)) {pipelineTimeoutRules.add(rule);}break;case PROCESSTIMEOUT:if (checkEnable(rule, now)) {processTimeoutRules.add(rule);}break;case POSITIONTIMEOUT:if (checkEnable(rule, now)) {positionTimeoutRules.add(rule);}break;default:break;}}if (!delayTimeRules.isEmpty()) {delayStatRuleMonitor.explore(delayTimeRules);}if (!pipelineTimeoutRules.isEmpty()) {pipelineTimeoutRuleMonitor.explore(pipelineTimeoutRules);}if (!processTimeoutRules.isEmpty()) {processTimeoutRuleMonitor.explore(processTimeoutRules);}if (!positionTimeoutRules.isEmpty()) {positionTimeoutRuleMonitor.explore(positionTimeoutRules);}}#五、具体的监控实现类完成监控规则检查实施告警和自我恢复机制处理

       上面是otter监控告警类体系,每个监控实现都支持自我恢复机制,告警邮件发送,可配置单独的告警阀值,告警间隔等个性化参数。

       otter的node节点在完成数据同时同时,还会统计同步数据,监控告警机制目前主要是通过这些统计的数据进行的逻辑处理实现告警:

      1)Process延迟:zookeeper维护了节点/otter/channel/{0}/{1}/process信息,从该节点中获取延迟时间;

      2)Position延迟:binlog日志的位点信息是维护在zookeeper节点:

/otter/canal/destinations/%s/%s/cursor,通过监控该节点存储的位点信息可以及时发现Position是否延迟。

      3)Pipeline延迟:node节点会记录每个Pipeline同步数据记录耗时情况,通过监控Pipeline最近一次的同步的记录,判断是否存在Pipeline没有同步的情况,数据表为:throughput_stat。

      4)Exception监控:DeadNodeListener在监控到对应的node节点变化时,若是对应的节点出现删除变化,则会执行该Exception监控逻辑。

      5)延迟告警:数据来源于表:delay_stat,node节点会维护每一个Pipeline的同步延迟时间,通过监控该表可以及时发现同步延迟情况。

三、具体使用

3.1 选在需要配置告警的channel,点击对应Pipeline后面的监控

3.2 进入监控页面选择添加按钮(提供了一件添加-将五种类型的告警配置全部新增)

3.3 保存后一定要启用对应的监控

四、针对otter的监控的一些其他想法

       1.otter自身维护了同步相关的统计数据,并保存在数据库中,可以监控这些数据进行告警,otter本身也是基于这些数据进行的告警,可以根据自己的需要合理使用这些统计数据进行监控。

       2.otter在zookeeper上保存了许多的数据,其中关于binlog的位点信息、各node的节点在启动时就会在zookeeper上注册信息,可以通过监控zookeeper的上的这些节点信息进行自定义监控。

相关文章:

关于otter监控告警使用

一、背景 近期在使用otter完成单机房单向同步时&#xff0c;常常遇到channel假死的情况&#xff0c;导致Pipeline同步停止&#xff0c;系统表数据同步停止&#xff0c;影响生产环境用户数据查询相关的功能&#xff0c;虽然事后能够通过停channel后再启用channel重新启用…...

复合查询和内外连接

文章目录 1. 简单查询2. 多表查询2.1 显示雇员名、雇员工资以及所在部门的名字2.2 显示部门号为10的部门名&#xff0c;员工名和工资2.3 显示各个员工的姓名&#xff0c;工资&#xff0c;及工资级别 3. 自连接4. 子查询4.1 where后的子查询4.1.1 单行子查询4.1.2 多行子查询 (i…...

动态规划【C++优质版】

&#xff08;本文未经作者书面允许&#xff0c;禁止以任何形式传播&#xff08;包括但不限于转载&#xff0c;翻译……&#xff09;如需引用 请标注原作者&#xff09; Intro&#xff1a; 动态规划是一种用于解决优化问题的算法策略。在 C 中&#xff0c;它主要用于处理那些具…...

柔性芯片:实现万物互联的催化剂

物联网 (IoT) 市场已经非常成熟&#xff0c;麦肯锡预测&#xff0c;物联网将再创高峰&#xff0c;到 2030 年将达到 12.5 万亿美元的估值。然而&#xff0c;万物互联 (IoE) 的愿景尚未实现&#xff0c;即由数十亿台智能互联设备组成&#xff0c;提供大规模洞察和效率。 究竟是…...

【分布式】分布式事务

目录 1、事务的发展 2、本地事务 &#xff08;1&#xff09;如何保障原子性和持久性&#xff1f; &#xff08;2&#xff09;如何保障隔离性&#xff1f; 2、全局事务 &#xff08;1&#xff09;XA事务的两段式提交 &#xff08;2&#xff09;XA事务的三段式提交…...

nacos安装部署

nacos安装部署 1.安装nacos 1.安装nacos nacos的安装很简单下载后解压启动即可&#xff0c;但是在启动前请确保jdk环境正常&#xff1b; 1.首先我们要下载nacos安装包&#xff1a;可以到官网下载&#xff0c;注意我这里使用的是2.1.0版本&#xff1b; 2.下载完成后&#xff0…...

git 上传代码时报错

在上传代码时&#xff0c;显示无法上传 PS E:\JavaWeb\vue3-project> git push To https://gitee.com/evening-breeze-2003/vue3.git! [rejected] master -> master (non-fast-forward) error: failed to push some refs to https://gitee.com/evening-breeze-20…...

【C++】数字位数提取:从个位到十位的深入分析与理论拓展

博客主页&#xff1a; [小ᶻ☡꙳ᵃⁱᵍᶜ꙳] 本文专栏: C 文章目录 &#x1f4af;前言&#x1f4af;第一题&#xff1a;提取个位数解法代码解法分析代码优化拓展思考&#xff1a;取模运算的普适性 &#x1f4af;第二题&#xff1a;提取十位数题目解读与思路分析方法一&…...

数据结构--二叉树的创建和遍历

目录 引入 定义 性质 二叉树的创建 迭代法 注意事项&#xff1a; 递归法 注意事项&#xff1a; 二叉树的遍历 深度优先 广度优先 先序遍历&#xff08;前序遍历&#xff09; 中序遍历 后序遍历 层序遍历 查找树结构中是否存在某数值 方法一&#xff1a; 方法…...

CEF127 编译指南 Linux篇 - 安装Git和Python(三)

1. 引言 在前面的文章中&#xff0c;我们已经完成了基础开发工具的安装和配置。接下来&#xff0c;我们需要安装两个同样重要的工具&#xff1a;Git 和 Python。这两个工具在 CEF 的编译过程中扮演着关键角色。Git 负责管理和获取源代码&#xff0c;而 Python 则用于运行各种编…...

计算机网络的类型

目录 按覆盖范围分类 个人区域网&#xff08;PAN&#xff09; 局域网&#xff08;LAN&#xff09; 城域网&#xff08;MAN&#xff09; 4. 广域网&#xff08;WAN&#xff09; 按使用场景和性质分类 公网&#xff08;全球网络&#xff09; 外网 内网&#xff08;私有网…...

Web入门(学习笔记)

Web入门 文章目录 Web入门SpringSpringBootWeb入门HTTP协议HTTP-概述HTTP特点 HTTP-请求协议HTTP-请求数据格式 HTTP-响应协议响应状态码 HTTP-协议解析 Web服务器-TomcatWeb服务器简介基本使用Tomcat文件夹目录解析常见问题Tomcat部署项目 入门程序解析**内嵌的Tomcat服务器**…...

mind+自定义库编写注意事项

在mind图形化命令编写中&#xff0c;main.ts 文件是通过图形化编程工具生成 C 代码&#xff0c;然后将生成的 C 代码上传到 Arduino Uno 上执行。 这些由main.ts定义的图形化代码通过生成的代码&#xff0c;需要包含调用arduinoc/libraries文件夹的*.h和*.cpp文件&#…...

jQuery零基础入门速通(上)

大家好&#xff0c;我是小黄。 在前端开发的世界里&#xff0c;jQuery以其简洁的语法和强大的功能&#xff0c;一直是许多开发者手中的利器。它不仅简化了HTML文档遍历和操作、事件处理、动画以及Ajax交互&#xff0c;还极大地提高了开发效率。本文将带你走进jQuery的世界&…...

计算机网络-Wireshark探索IPv4

使用工具 Wiresharkcurl(MacOS)traceroute: This lab uses “traceroute” to find the router level path from your computer to a remote Internet host. traceroute is a standard command-line utility for discovering the Internet paths that your computer uses. It i…...

【05】Selenium+Python 两种文件上传方式(AutoIt)

上传文件的两种方式 一、input标签上传文件 可以用send_keys方法直接上传文件 示例代码 input标签上传文件import time from selenium import webdriver from chromedriver_py import binary_path # this will get you the path variable from selenium.webdriver.common.by i…...

《构建 C++分布式计算框架:赋能人工智能模型并行训练》

在人工智能迅猛发展的今天&#xff0c;模型训练所需的计算资源呈指数级增长。为了高效地支持人工智能模型在多节点、多 GPU/CPU 集群上的并行训练&#xff0c;基于 C构建分布式计算框架成为了关键之举。 一、分布式计算框架的核心意义 随着人工智能模型复杂度的不断攀升&…...

分支定价算法Branch and price

分支定价算法是进阶版的列生成算法&#xff0c;是用来专门求解整数规划问题的。 目录 1.整数规划与线性规划的关系 2.限制主问题&#xff08;RLMP&#xff09;求得整数解 3.B&P用法&#xff1a;以VRPTW为例 列生成是求解线性规划问题的算法&#xff0c;通过不断往限制主…...

【信息系统项目管理师】第5章:信息系统工程 考点梳理

文章目录 5.1 软件工程5.1.1 架构设计1、软件架构风格2、软件架构评估 5.1.2 需求分析1、需求的层次2、需求过程&#xff08;重点&#xff09;3、UML事务、关系和视图4、面向对象分析 5.1.3 软件设计1、结构化设计2、面向对象设计3、设计模式 5.1.4 软件实现1、软件配置管理2、…...

kdump调试分析(适用于麒麟,ubuntu等OS)

1. kdump基本原理 1.1 内核崩溃处理机制 当 Linux 系统内核发生崩溃时,通常会触发 panic,系统停止正常运行。Kdump 在这种情况下: 使用一个备用的内核(称为 crash kernel)来启动最小化的环境。从崩溃的主内核中复制内存内容(转储文件)。将转储文件保存到预定义的存储位…...

Ubuntu在NVME硬盘使用Systemback安装记录

问题 使用Systemback重装系统找不到NVME硬盘。 0.使用Systemback制作iso后&#xff0c;制作启动盘 1.插入启动盘进入live mode模式 2.安装gparted sudo apt-get update sudo apt-get install gparted3.使用gparted对待分区硬盘进行分区 gparted按照你希望的分区方式分区即…...

C++多态的实现原理

【欢迎关注编码小哥&#xff0c;学习更多实用的编程方法和技巧】 1、类的继承 子类对象在创建时会首先调用父类的构造函数 父类构造函数执行结束后&#xff0c;执行子类的构造函数 当父类的构造函数有参数时&#xff0c;需要在子类的初始化列表中显式调用 Child(int i) : …...

com.github.gavlyukovskiy依赖是做什么的呢?

p6spy-spring-boot-starter 是一个Spring Boot的starter&#xff0c;用于集成P6Spy库。P6Spy是一个开源的数据库连接池代理工具&#xff0c;它可以拦截和记录所有的SQL语句及其执行时间&#xff0c;从而帮助开发者进行SQL性能分析和调试。 功能概述 SQL日志记录&#xff1a; P…...

QChart数据可视化

目录 一、QChart基本介绍 1.1 QChart基本概念与用途 1.2 主要类的介绍 1.2.1 QChartView类 1.2.2 QChart类 1.2.3QAbstractSeries类 1.2.4 QAbstractAxis类 1.2.5 QLegendMarker 二、与图表交互 1. 动态绘制数据 2. 深入数据 3. 缩放和滚动 4. 鼠标悬停 三、主题 …...

离线安装 Docker-IO:详细步骤指南

离线安装 Docker-IO:详细步骤指南 一、准备工作1.1 下载 Docker 离线安装包1.2 准备安装环境1.3 配置防火墙和 SELinux(可选)二、上传和解压离线安装包2.1 上传安装包2.2 解压安装包三、安装 Docker-IO3.1 移动 Docker 文件到系统目录3.2 配置 Docker 服务3.3 赋予服务文件执…...

梯度爆炸与消失

梯度爆炸和梯度消失 一、概念解析 &#xff08;一&#xff09;梯度爆炸 定义 在深度神经网络训练的反向传播过程中&#xff0c;梯度爆炸是指梯度的值过大的现象。这会使模型的参数更新出现异常。 产生原因 深层网络与链式法则&#xff1a;深度神经网络按链式法则计算某层权重…...

动捕 动作捕捉学习笔记

2024.11.28 实时动作捕捉 ThreeDPoseTracker VRMLiveViewer 实现虚拟主播跳舞自由_哔哩哔哩_bilibili blender 手工操作&#xff0c;不能渲染到原视频 【快速有效】三分钟学会&#xff0c;通过blender把网上视频武术动作捕捉绑定到3D角色上,需要使用Auto-rig Pro(ARP&#xf…...

spark3.x之后时间格式数据偶发报错org.apache.spark.SparkUpgradeException

3.x之后如果你去处理2.x生成的时间字符串数据&#xff0c;很容易遇到一个问题 Error operating ExecuteStatement: org.apache.spark.SparkUpgradeException: You may get a different result due to the upgrading of Spark 3.0: Fail to parse 20200725__cb90fcc3_8006_46…...

计算机网络(二)

ip地址&#xff1a;11010010&#xff1a;01011110:00100100:00010100 子网掩码:11111111:11111111:11111111:11000000 and &#xff1a;11010010&#xff1a;01011110&#xff1a;00100100&#xff1a;00000000 210.94.36.0的下一站为R1 因为255为11111111 192为&#xff…...

如何在Spark中使用gbdt模型分布式预测

这目录 1 训练gbdt模型2 第三方包python环境打包3 Spark中使用gbdt模型3.1 spark配置文件3.2 主函数main.py 4 spark任务提交 1 训练gbdt模型 我们可以基于lightgbm快速的训练一个gbdt模型&#xff0c;训练相对比较简单&#xff0c;只要把训练样本处理好&#xff0c;几行代码可…...

llamaindex实战-ChatEngine-ReAct Agent模式

概述 ReAct 是一种基于Agent的聊天模式&#xff0c;构建在数据查询引擎之上。对于每次聊天交互&#xff0c;代理都会进入一个 ReAct 循环&#xff1a; 首先决定是否使用查询引擎工具并提出适当的输入 &#xff08;可选&#xff09;使用查询引擎工具并观察其输出 决定是否重复…...

关于音频 DSP 的接口种类以及其应用场景介绍

在音频系统中&#xff0c;DSP&#xff08;数字信号处理器&#xff09;扮演着重要角色&#xff0c;通常会通过不同的接口与音频系统中的其他组件&#xff08;如功放、扬声器、音频源等&#xff09;进行连接。以汽车应用场景为例&#xff0c;以下是一些常见的接口类型分类及其介绍…...

DLL中的inline static成员变量:Windows开发中的常见陷阱

在Windows平台进行C开发时&#xff0c;DLL&#xff08;动态链接库&#xff09;是一个非常重要的概念。它让我们能够实现代码的模块化和动态加载&#xff0c;提高了程序的灵活性和维护性。然而&#xff0c;当我们在DLL中使用C17引入的inline static成员变量时&#xff0c;可能会…...

7. 现代卷积神经网络

文章目录 7.1. 深度卷积神经网络&#xff08;AlexNet&#xff09;7.2. 使用块的网络&#xff08;VGG&#xff09;7.3. 网络中的网络&#xff08;NiN&#xff09;7.4. 含并行连结的网络&#xff08;GoogLeNet&#xff09;7.5. 批量规范化7.5.1. 训练深层网络7.5.2. 批量规范化层…...

软件测试丨Pytest生命周期与数据驱动

Pytest的生命周期概述 Pytest 是一个强大的测试框架&#xff0c;提供了丰富的特性来简化测试执行。它的生命周期包括多个阶段&#xff0c;涉及从准备测试、执行测试到报告结果的完整流程。因此&#xff0c;理解Pytest的生命周期将帮助我们更好地设计和管理测试用例。 开始阶段…...

Python 网页控制自动化 getEdgeDriver

透过python 使用 edge 执行自动化时&#xff0c;原来的代码 出现报错了 执行报错啦&#xff1a;message info 如下显示 HTTPSConnectionPool(hostmsedgedriver.azureedge.net, port443): Max retries exceeded with url: /130.0.2849/edgedriver_win64.zip (Caused by NewConn…...

白鹿 Hands-on:消除冷启动——基于 Amazon Lambda SnapStart 轻松打造 Serverless Web 应用(二)

文章目录 前言一、前文回顾二、在 Lambda 上运行2.1、查看 Amazon SAM template2.2、编译和部署到 Amazon Lambda2.3、功能测试与验证 三、对比 Snapstart 效果四、资源清理五、实验总结总结 前言 在这个环节中&#xff0c;我们将延续《白鹿 Hands-on&#xff1a;消除冷启动——…...

pandas read_csv读取中文内容文件报错UnicodeDecodeError: ‘utf-8‘ codec can‘t decode byte

先用如下代码检查编码格式 import chardet# 检测文件编码 with open("data.csv", "rb") as f:result chardet.detect(f.read())print(result["encoding"]) # 打印检测到的编码我检查后我的文件编码格式是ISO-8859-1&#xff0c;因此读取文件时…...

LoRA微调原理 代码实践

LoRA&#xff08;Low-Rank Adaptation&#xff09;作为一种用于微调 LLM&#xff08;大语言模型&#xff09;的流行技术&#xff0c;最初由来自微软的研究人员在论文《 LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS 》中提出。不同于其他技术&#xff0c;LoRA 不是调整…...

数据结构--树二叉树顺序结构存储的二叉树(堆)

前言 前面我们学习了顺序表、链表、栈和队列&#xff0c;这些都是线性的数据结构。今天我们要来学习一种非线性的数据结构——树。 树的概念及结构 树的概念 树是一种非线性的数据结构&#xff0c;是由n&#xff08;n≥0&#xff09;个有效结点组成的一个具有层次关系的集合…...

mongodb shard 分片集群基础概念

目录 一、shard 集群 二、Config Server 1、config.shards 2、config.database 3、config.collection 4、config.chunks 5、config.settings 6、其他 三、shard机制 1、Primary Shard 2、Shard Key 2.1 范围分片 2.2 哈希分片 2.3 Shard Key重定义 2.4 版本约束…...

Streamlit 应用从本地部署到服务器并进行访问

目录 1 部署 Streamlit 应用到服务器2 配置服务器允许远程访问3 使用反向代理4 使用 HTTPS5 总结 1 部署 Streamlit 应用到服务器 1 选择一个服务器平台 首先&#xff0c;你需要选择一个服务器平台来部署你的 Streamlit 应用。常见的选择包括&#xff1a; 云服务器&#xff1a…...

大数据新视界 -- 大数据大厂之 Hive 数据压缩:优化存储与传输的关键(上)(19/ 30)

&#x1f496;&#x1f496;&#x1f496;亲爱的朋友们&#xff0c;热烈欢迎你们来到 青云交的博客&#xff01;能与你们在此邂逅&#xff0c;我满心欢喜&#xff0c;深感无比荣幸。在这个瞬息万变的时代&#xff0c;我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而 我的…...

Java开发中对List<Map<String, Object>>集合去重并按大小拆分子列表

Java开发中对List< Map< String, Object > >集合去重并按大小拆分子列表 一、使用场景二、实现步骤三、相关知识四、代码示例 一、使用场景 在处理大量List<Map<String, Object>>集合的数据时&#xff0c;为确保数据的唯一性&#xff0c;需要先根据Ma…...

vue3项目搭建-6-axios 基础配置

axios 基础配置 安装 axios npm install axios 创建 axios 实例&#xff0c;配置基地址&#xff0c;配置拦截器,目录&#xff1a;utils/http.js 基地址&#xff1a;在每次访问时&#xff0c;自动作为相对路径的根 // axios 基础封装 import axios from "axios";…...

git 学习笔记

目录 一、git 前期准备 1、托管平台的账号注册&#xff08;以gitee码云为demo&#xff09; 2、本地个人电脑配置 &#xff08;1&#xff09;配置用户属性 &#xff08;2&#xff09;配置SSH密钥 二、git 工作流程图 三、git 提交命令 &#xff08;1&#xff09;git ini…...

Y20030019 基于java+jsp+mysql的微信小程序校园二手交易平台的设计与实现 源代码 文档

旅游度假区微信小程序 1.摘要2. 系统开发的目的和意义3.系统功能4.界面展示5.源码获取 1.摘要 随着移动互联网的发展&#xff0c;微信小程序已经成为人们生活中不可或缺的一部分。微信小程序的优点在于其快速、轻量、易用&#xff0c;用户无需下载即可使用&#xff0c;节省了用…...

Cookie跨域

跨域&#xff1a;跨域名&#xff08;IP&#xff09; 跨域的目的是共享Cookie。 session操作http协议&#xff0c;每次既要request&#xff0c;也要response&#xff0c;cookie在创建的时候会产生一个字符串然后随着response返回。 全网站的各个页面都会带着登陆的时候的cookie …...

Mybatis:CRUD数据操作之删除一行数据

Mybatis基础环境准备请看&#xff1a;Mybatis基础环境准备 本篇讲解Mybati数据CRUD数据操作之单条删除数据 当用户点击了该按钮&#xff0c;就会将改行数据删除掉。那我们就需要思考&#xff0c;这种删除是根据什么进行删除呢&#xff1f;是通过主键id删除&#xff0c;因为id是…...

【机器学习】CatBoost 模型实践:回归与分类的全流程解析

一. 引言 本篇博客首发于掘金 https://juejin.cn/post/7441027173430018067。 PS&#xff1a;转载自己的文章也算原创吧。 在机器学习领域&#xff0c;CatBoost 是一款强大的梯度提升框架&#xff0c;特别适合处理带有类别特征的数据。本篇博客以脱敏后的保险数据集为例&#x…...