MySQL中的Change Buffer是什么,它有什么作用?
MySQL 中的 Change Buffer(更改缓冲区)是 InnoDB 存储引擎使用的一种特殊数据结构,主要用于优化对二级索引(secondary indexes)的写操作性能。
它的核心作用是:
当对表进行 INSERT
、UPDATE
或 DELETE
操作(DML操作)时,如果这些操作需要修改二级索引,并且这些二级索引页(pages)当前不在缓冲池(Buffer Pool)中,Change Buffer 会将这些更改缓存起来,而不是立即从磁盘读取相应的索引页进行修改。
为什么这样做有好处?
-
减少随机I/O:
- 与聚簇索引(clustered index)不同,二级索引的插入通常是相对随机的,更新和删除也可能影响到磁盘上不连续的二级索引页。
- 如果每次修改都立即去磁盘读取这些分散的二级索引页,会产生大量的随机I/O操作,这对于传统的机械硬盘(HDD)来说是非常昂贵的,会显著降低性能。
- Change Buffer 通过将这些更改先缓存起来,避免了立即的随机磁盘读取。
-
延迟合并,批量处理:
- 缓存的更改会在稍后的某个时间点被合并(merge)到实际的二级索引页中。这通常发生在以下情况:
- 当这些索引页因为其他读操作(例如查询)而被加载到缓冲池时。
- 当系统比较空闲时,后台的
purge
线程会定期将更新后的索引页写回磁盘。 - 在数据库缓慢关闭(slow shutdown)期间。
- 通过延迟合并,可以将多次对同一索引页的修改一次性完成,或者将对附近索引页的修改集中处理,从而将随机I/O转换为更高效的顺序I/O(或者至少是更少次数的随机I/O)。
- 缓存的更改会在稍后的某个时间点被合并(merge)到实际的二级索引页中。这通常发生在以下情况:
关键点:
- 只针对二级索引: Change Buffer 主要用于非唯一的二级索引。对于唯一二级索引,由于需要立即检查唯一性约束,所以插入操作通常不能被缓冲。聚簇索引的修改是直接进行的,不通过 Change Buffer。
- 内存与磁盘:
- 在内存中,Change Buffer 是缓冲池(Buffer Pool)的一部分。
- 在磁盘上,当数据库关闭时,Change Buffer 的内容会持久化到系统表空间(system tablespace)中,确保数据不会丢失。
- 适用场景:
- 对于 I/O 密集型的工作负载(例如,大量 DML 操作,特别是批量插入)尤其有价值。
- 当数据集远大于缓冲池,导致二级索引页频繁地不在内存中时。
- 配置参数:
innodb_change_buffering
: 控制哪些类型的操作(inserts, deletes, purges, all, none)会被缓冲。值得注意的是,从 MySQL 8.0.20 和 MySQL 8.4 开始,由于 SSD 的普及(随机I/O性能远好于HDD),这个参数的默认值可能已经更改为none
或推荐根据实际情况考虑是否禁用它。innodb_change_buffer_max_size
: 配置 Change Buffer 可以占用的缓冲池的最大百分比(默认为25%,最大可到50%)。
- 潜在影响:
- 虽然 Change Buffer 可以提高写性能,但它会占用缓冲池的一部分空间,减少了可用于缓存数据页的内存。
- 在某些情况下,例如当有大量缓存的更改需要合并时,合并过程本身可能会增加磁盘I/O,短期内可能对查询性能产生影响。
- 如果工作数据集完全适合缓冲池,或者二级索引很少,禁用 Change Buffer 可能更有利。
总结来说,Change Buffer 是 InnoDB 为了减少因修改二级索引而产生的大量随机磁盘I/O,通过缓存这些更改并延迟批量合并来提升写密集型操作性能的一种机制。 然而,随着存储技术的发展(尤其是SSD的广泛应用),其必要性和默认配置也在发生变化,需要根据具体的硬件环境和工作负载进行评估和调整。
回答重点
Change Buffer 是MySQL InnoDB存储引擎中的一个机制,用于暂存对二级索引的插入和更新操作的变更,而不立即执行这些操作,随后,当InnoDB进行合适的条件时(如页被读取或Flush操作),会将这些变更写入到二级索引中。
作用:
- 提高写入性能:通过将对二级索引的变更暂存,可以减少对磁盘的频繁写入,提升插入和更新操作的性能。
- 批量处理:Change Buffer可以在后续的操作中批量处理这些变更,减少了随机写入的开销。
扩展知识
进一步理解Change Buffer
-
那change buffer具体是个什么东西呢?
如果当前表针对name有一个二级索引。假设我们执行一条update table set name = 'yes' where id = 1
(这条语句需要修改name这个二级索引中的数据) ,此时buffer pool并没有对应二级索引的索引页数据。
这个时候需要把索引页加载才内存中立即执行修改吗?
不是的,这时候change buffer就上场了。
如果当前二级索引页不在buffer pool中,那么innodb会把更新操作缓存到change buffer中,当下次访问到这条数据后,会把索引页加载到buffer pool中,并且应用上change buffer里面的变更,这样就保证了数据的一致性。
上述SQL中,change buffer中会存储 name 字段的旧索引值删除操作和新索引值插入操作。 -
所以change buffer有什么好处?
当二级索引页不在buffer pool中时,change buffer可以避免立即从磁盘读取对应索引页导致的昂贵的随机I/O,对应的更改可以在后面当二级索引页读入buffer pool时候被批量应用。
看到我加粗的字体没,二级索引页,没错change buffer只能用于二级索引的更改,不适用于主键索引,空间索引以及全文索引。
还有,唯一索引也不行,因为唯一索引需要读取数据然后检查数据的一致性。 -
更改先缓存在change buffer中,假如数据库挂了,更改不是丢了吗?
别怕,change buffer也是要落盘存储的,从上图我们看到change buffer会落盘到系统表空间里面,然后redo log也会记录chang buffer的修改来保证数据一致性。
至此,想必你对change buffer已经有一定了解了吧。它主要用来避免于二级索引页修改产生的随机I/O。如果你的内存够大能装下所有数据,或者二级索引很少,或者你的磁盘是固态的对随机访问影响不大,其实可以关闭change buffer,因为它也增加了复杂度,当然最终还是得看压测结果。
Change Buffer的大小
- Change Buffer的大小可以通过系统变量 innodb_change_buffer_max_size 进行配置,默认值为25%的InnoDB缓冲池大小,最大值可以设置为50%。合理配置可以提升性能,但过大可能导致内存不足。
相关文章:
MySQL中的Change Buffer是什么,它有什么作用?
MySQL 中的 Change Buffer(更改缓冲区)是 InnoDB 存储引擎使用的一种特殊数据结构,主要用于优化对二级索引(secondary indexes)的写操作性能。 它的核心作用是: 当对表进行 INSERT、UPDATE 或 DELETE 操作…...
Ubuntu 20.04之Docker安装ES7.17.14和Kibana7.17.14
你需要已经安装如下运行环境: Ubuntu 20.04 docker 28 docker-compose 1.25 一、手动拉取镜像 docker pull docker.elastic.co/kibana/kibana:7.17.14docker pull docker.elastic.co/elasticsearch/elasticsearch:7.17.14 或者手动导入镜像 docker load -i es7.17.14.ta…...
ThreadLocal作一个缓存工具类
1、工具类 import java.util.HashMap; import java.util.Map;public class ThreadLocalUtil {// 使用Map存储多类型数据private static final ThreadLocal<Map<String, Object>> CONTEXT_HOLDER new ThreadLocal<>();// 存储数据public static void set(Str…...
DeepSeek在旅游行业的智能化革命
2025年,从贵州全域智慧旅游平台的行程规划革命,到黄山景区"AI旅行助手"的实时服务升级,再到宁夏"游宁AI"的全域智能导览,DeepSeek通过技术创新与行业场景的深度融合,正在重新定义"智慧旅游"的内涵。这场变革不仅体现在效率提升层面,更通过…...
说一下响应状态码有哪些?
HTTP响应状态码分类(RFC 7231标准) 1. 1xx(信息类) 临时响应,表示请求已被接收,需要继续处理 100 Continue:客户端应继续发送请求体 101 Switching Protocols:服务器同意升级协议(如WebSocket) 102 Processing(WebDAV):服务器正在处理但未完成 2. 2xx(成功类)…...
ABAP实战案例--获取当前数据由哪个用户锁住
1、业务场景: A用户正在打开订单,订单已上锁;B用户打开时只允许查看并提醒由哪个用户正在操作该笔订单。 2、函数使用:ENQUEUE_READ 代码示例: DATA:LV_MESSAGE TYPE SY-MSGV1,LV_UNAME TYPE UNAME.DATA:LV_GARG …...
CSS 选择器入门
一、CSS 选择器基础:快速掌握核心概念 什么是选择器? CSS 选择器就像 “网页元素的遥控器”,用于定位 HTML 中的特定元素并应用样式。 /* 结构:选择器 { 属性: 值; } */ p { color: red; } /* 选择所有<p>元素,…...
【深度学习新浪潮】如何入门人工智能?
入门人工智能(AI)需要结合数学基础、编程技能、机器学习理论和实践项目,逐步深入。以下是一个系统的学习路径,适合零基础或初学者参考: 一、打好基础:数学与编程 1. 数学基础(关键) AI的核心依赖数学,尤其是以下领域: 线性代数:向量、矩阵运算、特征分解等(用于…...
软件工程第六章-详细设计
文章目录 程序流程图PAD图N-S图(盒图)流图根据PDL创建流图把程序流程图映射到流图 程序流程图 PAD图 N-S图(盒图) 流图 根据PDL创建流图 把程序流程图映射到流图...
Profinet转Modbus TCP协议转换技术,打通能耗监控‘最后一公里’
在工业自动化领域,Profinet与Modbus TCP是两种广泛使用的通讯协议。Profinet通常用于实时性要求较高的工业控制系统,而Modbus TCP则因其简单、开放的特性广泛应用于各类设备的通信。然而,由于两者在技术规范上的差异,直接的互联互…...
C++:因子问题
【描述】 任给两个正整数N、M,求一个最小的正整数a,使得a和(M-a)都是N的因子。 【输入】 包括两个整数N、M。N不超过1,000,000。 【输出】 输出一个整数a,表示结果。如果某个案例中满足条件的正整数不存在,则在对应行输出-1 【样例…...
SAP系统的委外业务是什么?委外采购(标准委外)与工序外协的区别有哪些?
【SAP系统研究】 #SAP #委外 #外包 #代工 委外业务是很常见的业务类型。 企业生产过程中,会在自制生产之外,产生委外加工业务,也称之为外包或者代工。还有一些企业,自己只负责设计、市场等业务,而将生产加工环节交给其他公司。 一、委外产生的原因 有的企业由于环评、…...
小乌龟git中的推送账户、作者账户信息修改
文章目录 修改git文档作者信息修改git推送用户信息参考文献 修改git文档作者信息 小乌龟中的用户信息为:作者信息,并非推送用户。 上边用户信息,修改的是文件的作者信息。如果想要修改git服务中记录的推送用户信息需要修改推送用户信息。 …...
vue2.0 组件
个人简介 👨💻个人主页: 魔术师 📖学习方向: 主攻前端方向,正逐渐往全栈发展 🚴个人状态: 研发工程师,现效力于政务服务网事业 🇨🇳人生格言&…...
5月19日笔记
BGP的路由聚合 BGP(Border Gateway Protocol,边界网关协议)是互联网中用于在不同自治系统(AS)之间交换路由信息的一种协议。在BGP中,路由聚合是一种技术,它允许网络管理员通过减少路由表中冗余的…...
【SPIN】PROMELA并发编程(SPIN学习系列--3)
一、active与run:Promela的进程创建基石 在Promela语言中,**active和run**是构建并发模型的核心关键字,分别用于定义主动进程和动态创建被动进程: active proctype <进程名>() 作用:声明主动进程类型࿰…...
深入理解 Redisson 看门狗机制:保障分布式锁自动续期
在分布式系统的开发中,分布式锁是解决资源竞争、数据一致性问题的关键手段。Redisson 作为一个在 Java 领域广泛使用的 Redis 客户端框架,为我们提供了功能强大且易用的分布式锁实现。其中,看门狗(watchDog)机制更是 R…...
App 发布后才想起安全?iOS 后置混淆的实战方法与工具路线(含 Ipa Guard 应用体验)
作为一名 iOS 开发者,我们对“上线前打包”和“上线后复盘”都不会陌生。但坦白说,在忙完功能、优化、测试、提交审核这些流程之后,大多数人对“App 安全”只剩下一个念头:上线了,就算了吧。 然而,真正在 …...
k8s1.27集群部署mysql8.0双主双从
环境介绍: #节点分配 159m--->两个master,生产环境建议,一个master一个节点。 160n-->slave-0 161n-->slaves-0 #存储卷 pv-->放在节点上,没用nfs/云存储。hostpath方式存储。pv的资源分配1G,较小&#…...
C++经典库介绍
在 C 开发的漫长历程中,涌现出了许多经典的库,它们在不同的领域发挥着重要作用,极大地提升了 C 开发的效率和质量。下面为你介绍一些 C 开发中的经典库。 标准模板库(STL) STL 堪称 C 编程领域的基石,是每…...
树莓派系列教程第八弹:结合 ESP32-CAM 实现远程摄像头监控
在当今数字化时代,远程监控技术已经渗透到我们生活的方方面面。无论是家庭安防、远程办公,还是物联网设备的监控,能够随时随地查看摄像头的画面都显得尤为重要。今天,我们将带你走进一个充满创意和技术挑战的项目——利用树莓派和…...
AI人工智能写作平台:AnKo助力内容创作变革!
AI人工智能写作平台:AnKo助力内容创作变革! AI人工智能写作平台正改变内容创作方式。AnKo作为领先的AI人工智能写作平台,免费为用户提供强大创作支持。AnKo AI人工智能写作平台整合多模型技术,提升写作效率和质量。 AI人工智能写…...
学习黑客 PowerShell 详解
PowerShell 详解:管道、过滤和常用命令技术指南 🚀 作者: 海尔辛 | 发布时间: 2025-05-19 12:18:38 UTC 📋 目录 PowerShell 管道详解文本搜索与过滤结果限制与选择比较和条件操作符格式化输出对象操作与属性访问错误处理综合实例与最佳实…...
【QT】一个界面中嵌入其它界面(二)
以下是使用 QStackedWidget 实现动态切换界面的完整代码,包含详细的注释和实现步骤: 完整代码 1. 子界面类:Page1 和 Page2 首先创建两个简单的子界面类,用于嵌入到 QStackedWidget 中。 // Page1.h #ifndef PAGE1_H #define P…...
前端的面试笔记——HTMLJavaScript篇(二)前端页面性能检测
前端页面性能检测和判定是优化用户体验的核心环节,需要结合实验室数据(Lab Data)、现场数据(Field Data)和行业标准综合评估。以下是主流方法、工具及判定标准的详细解析: 一、性能检测的核心维度与指标 …...
FD+Mysql的Insert时的字段赋值乱码问题
方法一 FDQuery4.SQL.Text : INSERT INTO 信息表 (中心, 分组) values(:中心,:分组); FDQuery4.Params[0].DataType : ftWideString; //必须加这个数据类型的定义,否则会有乱码 FDQuery4.Params[1].DataType : ftWideString; //ftstring就不行,必须是…...
论坛系统(中-2)
软件开发 实现业务功能 个人中心 页面结构介绍 个人中心的页面结构分为三部分 1> 导航栏 2> 正文部分 3> 页脚部分 index.html 的页面结构 1> 导航栏 2> 正文部分 3> 页脚部分 获取用户信息 实现逻辑 ⽤⼾提交请求,服务器根据是否传⼊I…...
火山 RTC 引擎9 ----集成 appkey
一、集成 appkey 1、网易RTC 初始化过程 1)、添加头文件 实现互动直播 - 互动直播 2.0网易云信互动直播产品的基本功能包括音视频通话和连麦直播,当您成功初始化 SDK 之后,您可以简单体验本产品的基本业务流程,例如主播加入房间…...
Protobuf协议生成和使用
知识点一 利用protoc.exe编译器生成脚本文件 //1.打开cmd窗口 //2.进入protoc.exe所在文件夹(也可以直接将exe文件拖入cmd窗口中) //3.输入转换指令 //protoc.exe -I配置路径 --csharp_out输出路径 配置文件名 //注意&…...
2025年—ComfyUI_关于ComfyUI的零碎小知识
之前有个朋友问我要了一个软件安装包,我分享了网盘链接,过了会儿朋友说解压后点击安装一直提示失败,还发给我报错信息,我从没遇到过,也不知做何解,于是要了截图,看着不对劲,问其在哪…...
用 SamGeo 库实现遥感影像自动分割:从本地 TIFF 到 SHP/GeoJSON 的一站式处理(Python 脚本实现)
背景:地理空间数据处理的智能化转型与 SAM 模型的革新应用 在遥感测绘、城市规划、环境监测等领域,地理空间影像数据的自动化处理一直是提升效率的核心需求。传统的影像分割方法依赖人工标注或复杂的参数调优,难以应对海量卫星 / 无人机影像的快速分析;而栅格数据(如 Geo…...
Excel导入校验
校验监听器 /*** Excel 校验监听器* param <T>*/ public class AnalysisValidReadListener<T> extends AnalysisEventListener<T> {private static final Logger logger LoggerFactory.getLogger(AnalysisValidReadListener.class);private static final i…...
【批量图片查找】在电脑上如何根据文件名清单一次性查找多张图片并复制到指定文件夹,基于Python的解决方案
一、应用场景 这个工具适用于以下场景: 设计师需要从大量素材中筛选特定图片复制并保存摄影师需要根据文件名批量整理照片查找筛选复制电商运营人员需要从产品库中提取特定商品图片复制到指定文件夹数据分析师需要批量收集特定图片复制保存用于处理任何需要从大量图…...
湖北理元理律师事务所观察:债务服务中的“倾听者价值”
在债务纠纷解决过程中,法律专业能力与心理支持同样重要。调研显示,72%的债务人在咨询初期存在“隐瞒真实负债”“抗拒沟通”等行为,直接影响方案有效性。湖北理元理律师事务所通过服务模式创新,尝试破解这一难题。 建立信任的三大…...
GPT-4.1特点?如何使用GPT-4.1模型,GPT-4.1编码和图像理解能力实例展示
几天前,OpenAI在 API 中推出了三个新模型:GPT-4.1、GPT-4.1 mini 和 GPT-4.1 nano。这些模型的性能全面超越 GPT-4o 和 GPT-4o mini(感觉这个GPT-4.1就是GPT-4o的升级迭代版本),主要在编码和指令跟踪方面均有显著提升。还拥有更大的上下文窗口…...
网络工程师案例分析
✅ Huawei Super VLAN 通信规则总结 🌐 基本结构 Super VLAN:逻辑 VLAN,承载三层网关(VLANIF 接口)。 Sub VLAN:实际的用户 VLAN,不配置 IP,仅做二层转发。 🔒 通信规…...
tcp/ip协议
OSI参考模型 应用层:OSI最高层。确定进程之间通信性质 协议:http:80,https:443,ftp:21,telnet:23,ssh:22,smtp:25,pop3 表示层:处理流经结点的数据编码的表示方式问题,以保证一个系统应用层发出的消息可被另一系统的应用层读出,数据压缩和加…...
小红书的视频怎么保存没有水印(方法分享)
你是不是也经常在小红书上刷到超赞的旅行vlog、美妆教程或美食探店视频,想保存下来慢慢看,却发现下载后总有烦人的水印?别急!今天教你一招,3秒轻松保存无水印高清视频,简单又实用! 为什么需要无…...
RK3568解码1080P视频时遇到系统崩溃内核挂掉的解决方案
接上篇rk3568。 实际使用 rock_mpp库硬解码时,会遇到解码1080P视频整个系统卡死,内核崩溃的问题。 以下是内核崩溃的日志,下面这句是典型的内核某块驱动挂掉的信息。 [ 292.469580] Unable to handle kernel NULL pointer dereference at…...
C++ —— Lambda 表达式
🎁个人主页:工藤新一 🔍系列专栏:C面向对象(类和对象篇) 🌟心中的天空之城,终会照亮我前方的路 🎉欢迎大家点赞👍评论📝收藏⭐文章 文章目录 L…...
Keepalived相关配置和高可用
目录 一. Keepalived的工作原理 二. 实现单独的心跳网卡 三. keepalive一些优化 3.1 主从之间加密验证 3.2 修改心跳线发送时间 四. 添加独立日志 五. 抢占模式,非抢占模式,延迟抢占模式 六. 单播地址和多播地址 1. 单播地址(Unicast…...
gtest 库的安装和使用
目录 介绍 安装 使用 介绍 官方文档:GoogleTest 入门 |GoogleTest 谷歌测试 gtest 库是谷歌开源的 C测试单元框架,方便我们测试程序的正确性。 安装 sudo apt-get install libgtest-dev 使用 GTest 中的断言的宏可以分为两类: • ASS…...
Python训练营打卡——DAY30(2025.5.19)
目录 模块和库的导入 一、导入官方库 1. 标准导入:导入整个库 2. 从库中导入特定项 3. 非标准导入:导入整个库 二、模块、包的定义 三、使用案例 场景1: main.py 和 circle.py 都在同一目录 场景2: main.py 和 circle.py 都在根目录的子目录 mo…...
Django框架的前端部分使用Ajax请求一
Ajax请求 目录 1.ajax请求使用 2.增加任务列表功能(只有查看和新增) 3.代码展示集合 这篇文章, 要开始讲关于ajax请求的内容了。这个和以前文章中写道的Vue框架里面的axios请求, 很相似。后端代码, 会有一些细节点, 跟前几节文章写的有些区别。 一、ajax请求使用 我们先…...
w~自动驾驶~合集3
我自己的原文哦~ https://blog.51cto.com/whaosoft/13269720 #FastOcc 推理更快、部署友好Occ算法来啦! 在自动驾驶系统当中,感知任务是整个自驾系统中至关重要的组成部分。感知任务的主要目标是使自动驾驶车辆能够理解和感知周围的环境元素&…...
LeetCode 39. 组合总和 LeetCode 40.组合总和II LeetCode 131.分割回文串
LeetCode 39. 组合总和 需要注意的是题目已经明确了数组内的元素不重复(重复的话需要执行去重操作),且元素都为正整数(如果存在0,则会出现死循环)。 思路1:暴力解法 对最后结果进行去重 每一…...
C++(2)关键字+数据类型 +数据类型输入
(1)如下关键字是 不能用于定义变量名和常量名的 !。 如int int 这样就会报错 所以注意即可 。 (2)标识符命名规则 (即变量和常量的命名规则) 最主要注意 第一个 字符必须是字母或是下划线 —…...
第二道re
题目来源:天狩CTF竞赛平台 Lihuas for 题目提示说是for循环,不管了干吧 先看加没加壳,没有,直接无脑IDAF5 代码功能概述 程序会要求用户输入一个 flag,然后将输入的每个字符与索引值进行异或运算,并将结…...
【C语言内存函数】--memcpy和memmove的使用和模拟实现,memset函数的使用,memcmp函数的使用
目录 一.memcpy的使用和模拟实现 1.1--memcpy的使用演示 1.2--memcpy的模拟实现 二.memmove的使用和模拟实现 2.1--memmove的使用演示 2.2--memmove的模拟实现 三.memset函数的使用 3.1--memset的使用演示 3.2--总结 四.memcmp函数的使用 4.1--memcmp的使用演示 4.2…...
java集合详细讲解
Java 8 集合框架详解 Java集合框架是Java中最重要、最常用的API之一,Java 8对其进行了多项增强。下面我将全面讲解Java 8中的集合框架。 一、集合框架概述 Java集合框架主要分为两大类: Collection - 单列集合 List:有序可重复Set…...