当前位置：首页 > news >正文

深入解析：机器学习算法之Boosting

news 来源：原创 2025/9/17 22:26:13

深入解析：机器学习算法之Boosting

Boosting（提升方式）是一类方法的总称，并不是具体算法。
它的核心思想就是串联多个弱学习器，每个学习器都针对前一轮的误差进行改进，AdaBoost 就是 Boosting 的早期代表。

一、 Adaboost

通过AdaBoost是最早的 Boosting 算法之一，主要用于分类（也能够做回归，例如AdaBoost.R2）。
它的基本思想是**调整样本权重，聚焦难分样本。**它的执行过程：

1、初始化每个训练样本的权重相同，训练一个弱学习器（通常是决策树桩，即深度=1的小树）；
2、得到该弱学习器后，计算这个弱学习器的错误率ε_t，以及该弱学习器的权重，公式如下图中第一、第二个公式所示；并与真实标签进行对比，正确样本给于更小权重，错误样本给于更大权重。更新公式如下图第三个公式所示；
3、利用调整后的权重，再训练一个弱学习器；
4、重复2-3步骤，直到错误率为0或者达到最大迭代次数；
5、最终结果 = 各学习器按权重加权投票。在这里插入图片描述

重要结论：
1、AdaBoost是一个串行化迭代基于前一个弱学习器的正确率来调整后的结果（这有点像RL的过程，RL鼓励agent每一步都采取正确的动作，以获得奖励）。它更关注于错误样本，因而给予错误样本更大的权重。就是的结果，因为每一个弱学习器的训练信息的权重，都
2、AdaBoost展示了模型从弱到强的过程，由欠拟合到拟合较好的过程。

二、XGBoost

待更。。。

三、几种Boosting方法对比

相关文章：

深入解析：机器学习算法之Boosting

深入解析：机器学习算法之Boostingpre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", monospace !important; f…...

编程日记 2025/9/17 22:26:13

GW1NSR-4C硬核MCU的硬件SPI问题

在官方库的基础上使用硬件spi时发现，在发送和接收数据时，片选线无法正常拉高拉低。但在测试时发现下面这段代码在地址为0x01时片选线一直为低电平，在0x00或者其他值的时候一直为高电平。SPI_Select_Slave(0x00); //Select SPI slave于是将这段代码作为片选线的控制语句，…...

编程日记 2025/9/17 22:24:40

NKOJ全TJ计划——NP11793

题目内容 33DAI 进入了一个\(n\)行\(n\)列的二维数组。数组中每个位置都有一只羊，第\(i\)行第\(j\)列的羊的重量是\(a_{i,j}\)。 33DAI 一开始在\(a_{1,1}\)的位置，每次可以往右一步或者往下一步。即可以从\(a_{x,y}\)走到\(a_{x+1,y}\)或者\(a_{x,y+1}\)。但是不能走出这个数…...

编程日记 2025/9/15 12:03:15

Python天猫订单数据与日化商品销售数据RFM模型应用可视化分析

全文链接：https://tecdat.cn/?p=43860原文出处：拓端抖音号@拓端tecdat分析师：Jiaxin Yao在电商行业快速发展的背景下，订单数据与商品销售数据已成为企业优化运营、提升效益的核心资产。通过对这些数据的深度分析，不仅能挖掘销售趋势、地区消费差异，还能精准识别客户价值…...

编程日记 2025/9/17 22:24:43

JBoltAI重塑智能检索：问题重写与混合检索如何破解企业RAG应用瓶颈

JBoltAI重塑智能检索：问题重写与混合检索如何破解企业RAG应用瓶颈当前，生成式AI技术正在席卷全球各行业。然而，传统RAG系统在实际部署中面临两大核心痛点：查询意图理解偏差和检索召回率低下。这直接导致企业AI应用效果不尽如人意——要么找不到正确答案，要么生成的内容与实…...

编程日记 2025/9/17 22:24:10

Springcloud Alibaba从入门到入土（一）

一、什么是微服务微服务是一种架构风格，代表一种通过将应用程序拆分为一个个小型的、独立的功能模块（服务）的开发方式。每个模块（服务）实现独立的业务功能（不限制开发语言），服务之间通过轻量化的通信机制（HTTP、REST、消息队列）进行交互微服务架构的核心思想是解耦…...

编程日记 2025/9/15 12:03:10

JBoltAI函数调用技术：自然语言即可查询数据库，重构企业数据交互方式

JBoltAI函数调用技术：自然语言即可查询数据库，重构企业数据交互方式AI正在重构企业数据交互方式在当今数据驱动的商业环境中，企业数据库里沉淀着大量宝贵信息：客户行为、销售趋势、运营效率等关键洞察。然而，这些数据的获取却长期依赖技术团队编写SQL查询，形成了业务与数…...

编程日记 2025/9/17 22:26:12

JBoltAI文档提取技术：企业智能升级的数据解锁之道

JBoltAI文档提取技术：企业智能升级的数据解锁之道企业数字化转型的下一站：从“数据沉淀”到“价值提取”当前，全球企业正从“数字化转型”迈入“智能化升级”的关键阶段。据《中国企业智能化升级报告2025》显示，83%的中大型企业表示，数字化后的“数据孤岛”、“流程割裂”…...

编程日记 2025/9/15 12:03:06

题解：CF645B Mischievous Mess Makers

Solution 为了让逆序对数量尽量多，每次要交换 \(i\) 和 \(n - i + 1\),然后把每一次的结果累加起来，答案就是 \(\sum_{i=1}^{\min\left(\lfloor{\frac{n}{2}}\rfloor,k\right)}\left(2 \times \left(n - i + 1\right) + 1\right)\)。 Code 完整代码如下 #include <bits/st…...

编程日记 2025/9/17 22:24:09

题解：CF1076C Meme Problem

Solution 由韦达定理得，因为 \(a + b = d\) 且 \(a \times b = d\)，所以 \(a\)，\(b\) 就是方程 \(x^2 - d \times x + d = 0\) 的实数根，只要判断方程有无实根就可以了。 Code 完整代码如下 #include <bits/stdc++.h> using namespace std; double d; int main() {in…...

编程日记 2025/9/17 22:24:07

视频讲解|Python用ResNet残差神经网络在大脑出血CT图像描数据预测应用

全文链接：https://tecdat.cn/?p=43843原文出处：拓端抖音号@拓端tecdat分析师：Zikun Zhang视频讲解Python用ResNet残差神经网络在大脑出血CT图像描数据预测在临床医疗影像诊断中，大脑出血的快速准确识别直接关系到患者的救治效率——CT影像作为常用检查手段，传统人工阅片不…...

编程日记 2025/9/15 12:03:00

题解：CF1188A1 Add on a Tree

Solution 我们可以先计算每个节点的度。若 \(deg_i = 1\)，只有一条边，可以变成任意值。若 \(deg_i = 2\)，两条边会同时加上一个任意实数，但如果要求这两条边不相等，就无法做到。若 \(deg_i \ge 3\)，以 \(deg_i = 3\) 为例，可以先把这三条边的边权变为 \(0\)，然后就可…...

编程日记 2025/9/15 12:02:58

CSP-S 9.9

赛时： 6:00：发题，一眼不会 BCD 6:03：一眼秒了 A，快速写了一个线段树，然后发现可以用树状数组，最后发现直接记录最大值和次大值就可以了。 6:10：写完了，发现恶心大样例： 1 999999胡：你就说满不满足子任务 2 吧。好吧完全不拍，直接写 T3。 8:30：想到了一个伪正解：…...

编程日记 2025/9/17 22:24:11

250913 课堂笔记

0 1 CF1147E 2 CF1007C 3 CF750F 4 CF1129E 5 P9601 6 P5208 7 CF1292E 8 CF1924F 9 P13535 10 CF1991I本文来自博客园，作者：cwkapn，转载请注明原文链接：https://www.cnblogs.com/cwkapn/p/19088845...

编程日记 2025/9/15 12:02:55

NKOJ全TJ计划——NP11792

题目内容 33DAI 最近喜欢玩《骑马与砍杀 2》，他正领导着一支\(n\)人的小队（保证\(n\)是偶数），小队成员编号\(1\backsim n\)。他们中编号为 \(i\)的成员（\(1\le i\le \frac{n}{2}\) ）与编号为\(i+\frac{n}{2}\)的成员互为朋友关系。为了掩护主力撤退，他决定选择其中\(k\…...

编程日记 2025/9/15 12:02:53

求加小红书

一定回关因为现在小白实力较小，没那么多粉丝，希望可以成为一名大主播，希望大家支持，谢谢！这个家伙很懒，什么也没有留下 🐾...

编程日记 2025/9/15 12:02:51

Ubuntu 修改 Git 的编辑器为 Vim

使用命令行 git config --global core.editor vim 可以为所有仓库全局指定 Git 的编辑器为 Vim。修改之前：修改之后：...

编程日记 2025/9/15 12:02:50

完整教程：Photo Lab PRO 图片编辑器功能解锁版

完整教程：Photo Lab PRO 图片编辑器功能解锁版pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", monospace …...

编程日记 2025/9/17 21:38:27

编辑功能查询问题解决

问题点：报错：“System.InvalidCastException”类型的异常在 System.Data.dll 中发生，但未在用户代码中进行处理其他信息: 指定的转换无效。解决方法：修改前的代码示例public AccessoryInfo GetInfo(Int32 accessoryId){AccessoryInfo entity = null;SqlParameter[] parm…...

编程日记 2025/9/17 15:18:25

Ubuntu 18.04 虚拟机 VScode无法正常输入中文解决办法

小问题，咱们速战速决问题描述或者其实就是安装的Ubuntu版本太旧了，依赖包的版本不支持VScode安装。如果不想升级Ubuntu，那找一个旧版本VScode安装包就行。这里是旧版本VScode，旧版本合集推荐在Ubuntu的浏览器中打开并下载，如图点击.deb当然，也可以用Windows系统下载，能…...

编程日记 2025/9/15 12:02:44

manacher算法

模板题：洛谷p3805 code: #include<iostream> #include<algorithm> using namespace std; const int N=2.2e7+10; string t,s; int m,n; int d[N]; int main(){cin>>t;m=t.size();s+= ;for(auto ch: t){s+=#;s+=ch;}s+="##";n=s.size()-2;d[1]=1;i…...

编程日记 2025/9/17 22:09:01

[能源化工] 面向锂电池RUL预测的开源项目全景速览

锂离子电池是新能源汽车、储能系统及便携式电子设备的核心能源部件，其剩余使用寿命（Remaining Useful Life，RUL）的准确预测直接关系到设备运行安全、维护成本优化和能源效率提升。RUL预测算法能够提前量化电池剩余可用时间，是保障新能源汽车与储能系统安全稳定运行、降低突…...

编程日记 2025/9/15 14:54:06

源码app陪玩，React技巧之发出http请求 - 云豹科技

源码app陪玩，React技巧之发出http请求总览在React中，通过点击事件发出http请求：1、在元素上设置onClick属性。2、每当元素被点击时，发出http请求。3、更新state变量，并重新渲染数据。如果你使用axios，请向下滚动到下一个代码片段。import {useState} from react;const Ap…...

编程日记 2025/9/15 9:54:58

qoj1847 Elephants

题意有一个长度为 \(n\) 的 \(01\) 数组 \(a\)。给出 \(q\) 组限制条件，第 \(i\) 组给出大小为 \(k_i\) 的集合 \(C_i=\{x_{i,1},x_{i,2},\cdots,x_{i,k_i}\}\)。若 \(cnt_0\) 为 \(\{x|x\in C_i,a_x=0\}\) 的集合大小，\(cnt_1\) 为 \(\{x|x\in C_i,a_x=1\}\) 的集合大小，…...

编程日记 2025/9/17 22:24:41

p4085

洛谷p4085 题目链接首先想怎么计算一个区间的风味和辣度；风味是区间内的风味总和，可以用前缀和处理；辣度是区间最大值，可以用ST表处理；处理完ST表和前缀和之后考虑怎么求答案，可以考虑二分查找前缀和满足风味要求的最小值，然后列举后面的所有情况求最小；代码： #inc…...

编程日记 2025/9/15 12:02:41

Excel甘特图 - 教程

Excel甘特图 - 教程pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", monospace !important; font-size: 14px…...

编程日记 2025/9/15 12:02:39

基于ArcGIS的通用界址点导入导出工具设计与实现

# 基于ArcGIS的通用界址点导入导出工具设计与实现最近在开发一个兼容 **ArcGIS Desktop** 和 **ArcGIS Pro** 的通用界址点数据导入导出工具。在实际项目中，界址点虽然有国家标准规范，但各地的实际应用需求差异较大，导致格式五花八门：- 有的地方要求包含 **9个属性字段**；…...

编程日记 2025/9/17 22:24:42

python 函数作用域

对于 python 中的全局变量，在函数体内只能访问，不可修改。若想修改则需要用 global 关键字声明。 eg:c = 1 def f():print(c)f() # 可执行c = 1 def g():global c # 在函数体内修改全局变量，需要声明c += 1print(c)g()定义在函数体内的函数，称为“闭包”。与全局变量原理一…...

编程日记 2025/9/15 6:52:56

基于Python+Vue开发的鲜花商城管理系统源码+运行

项目简介该项目是基于Python+Vue开发的鲜花商城管理系统（前后端分离），这是一项为大学生课程设计作业而开发的项目。该系统旨在帮助大学生学习并掌握Python编程技能，同时锻炼他们的项目设计与开发能力。通过学习基于Python的鲜花商城管理系统项目，大学生可以在实践中学习和…...

编程日记 2025/9/15 12:02:36

Idea win 快捷键大全

转载自：https://www.cnblogs.com/chuangzhijian/p/8477220.html Ctrl+Shift + Enter，语句完成“！”，否定完成，输入表达式时 “！”键Ctrl+E，最近的文件Ctrl+Shift+E，最近更改的文件Shift+Click，可以关闭文件Ctrl+[ OR ]，可以跑到大括号的开头与结尾Ctrl+F12，可以显示…...

编程日记 2025/9/17 22:24:42

文献阅读 | AutoCodeBench

AutoCodeBench：大型语言模型是自动代码基准生成器 - AI论文精选解决大模型标注困难的问题，可自动生成高难度多语言代码生成数据集TRANSLATE with xEnglishArabic Hebrew PolishBulgarian Hindi PortugueseCatalan Hmong Daw RomanianChinese Simplified Hungarian RussianC…...

编程日记 2025/9/17 13:11:49

【ARM Cache 及 MMU 系列文章 6.5 -- 如何进行 Cache miss 统计？】

ARM Cache Miss 统计在ARMv8/v9架构中，缓存未命中（Cache Miss）的统计对于性能调优和系统分析至关重要。缓存未命中意味着处理器尝试从缓存中读取数据时没有找到，因此不得不从更低速的存储（如L2缓存或主内存）中加载数据，这会导致延迟增加和性能下降。理解和分析缓存未命…...

编程日记 2025/9/17 22:24:40

VSCode+neovim工作环境快速构建

环境系统：Windows 代码编辑器：VSCode 插件：vscode-neovim、clangd目的为了减少右手趴鼠标上的时间，所以根据以下目标给出一份最简洁的配置方案：窗口跳转：<C-w>+ h j k l 标签页跳转：H L 终端打开\关闭： <C-`> 相对行号引用跳转(Go to Define): gd 模式切…...

编程日记 2025/9/15 12:02:29

25.9.12随笔联考总结

考试通读题面，感觉只能顺序开题。T1 做了 40 多分钟，感觉这个题比之前的要难一点；T2 很快找到一些性质，但是最后一个东西似乎不太能做，于是就花了好一会去想，但是还是没想出来。最后只写了暴力。T3 看着就很不可做，想了一会没找到啥性质。T4 是串串计数题，因为计数做少…...

编程日记 2025/9/15 14:54:04

macos

调节鼠标熟读 defaults write -g com.apple.mouse.scaling 6...

编程日记 2025/9/15 14:54:02

0912模拟赛总结

这次比赛T1没有注意 DP 初始化少了 30 分，T4把 \(m\) 写成 \(n\) RE 了，少了85分，所以一定要自己造极限数据，同时要把题目里面的变量改成自己的习惯。后面在对拍的时候一直在改T1，忽略了 -inf 和 0 是有区别的，后者可以转移出不存在的状态。这几次考试都反映出大样例是很…...

编程日记 2025/9/15 14:54:00

Java基础程序设计

Java基础程序设计Day02 关键字和保留字的含义: 关键字被Java语言赋予了特殊含义,用做专门用途的字符串(单词)(关键字特点字母都为小写),保留字不能被用作标识符来使用goto、const,保留字不能作为标识符来命名。标识符:凡是需要起名字的地方都叫标识符定义标准:标识符的命名规…...

编程日记 2025/9/17 17:17:27

CF482C Game with Strings

比较具有启发意义的题目。首先看到 \(m \le 20\)，我们第一个想到的就是状压 DP，设 \(f_i\) 为选取位置集合为 \(i\) 时期望多少步确定，显然转移是简单的，比较困难的地方在当 \(i\) 唯一确定一个串（这个串需要你枚举出来）时，\(f_i = 0\)，而这一步需要 \(O(nm2^m)\) 的复…...

编程日记 2025/9/15 14:53:56

相机标定

为保证单目相机在全站仪融合定位中的精度，需要进行相机标定以获得准确的内参和畸变参数。内参矩阵 (K)：描述了相机自身的几何属性，与相机的位置和姿态无关。f_x, f_y: 以像素为单位的焦距，与物理焦距和图像传感器密度有关。c_x, c_y: 主点坐标，通常是图像的中心（或附近）…...

编程日记 2025/9/17 12:16:21

深度学习隐私测试框架PrivacyRaven全面解析

PrivacyRaven是专为深度学习系统设计的隐私攻击测试套件，支持模型提取、成员推理和模型反演三大攻击类型，通过模块化设计实现高效隐私测试，帮助研究人员评估系统安全性。PrivacyRaven Has Left the Nest - The Trail of Bits Blog Suha S. Hussain, Georgia Tech October 08…...

编程日记 2025/9/15 14:53:52

华硕灵耀双屏不定时死机，开机蓝屏其一解决方法

关闭intel RST，关闭VMD，...

编程日记 2025/9/17 22:09:01

完整教程：Java 抽象（abstract）关键字

完整教程：Java 抽象（abstract）关键字pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", monospace !importa…...

编程日记 2025/9/15 14:53:48

自建rustdesk服务器，不填写中继地址无法连接的解决

研究相当长时间，官方文档在配置服务器步骤时省略了关键一步，导致当你用定义文件名方式给客户直接使用客户端时，无法连接中继的问题，不在于客户端，而在于服务端过程省略，直接设置hbbs 服务的启动参数，添加-r <中继地址> -k_ 即可默认为 -r 0.0.0.0 服务端不能推导I…...

编程日记 2025/9/15 14:53:46

Typescript中Type 类型的实现原理

TypeScript 中的 "类型"（Type）是对值的结构和行为的抽象描述。它不直接参与运行时，而是在编译阶段用于约束值的形态，确保代码符合预期的契约。1.核心作用：定义 "允许的值" 的范围和操作规则2.与 JavaScript 的关系：TS 的类型系统是对 JS 值的补充描述…...

编程日记 2025/9/15 14:53:44

数据结构与算法-30.图-拓扑排序

一、拓扑排序定义二、检测有向图中的环API设计实现过程以上仅供参考，如有疑问，留言联系...

编程日记 2025/9/15 14:53:42

1.进制转化

...

编程日记 2025/9/15 14:53:40

CF1796E Colored Subgraphs

是一个读懂题意就能做出来的题。题目意思就是要你进行某种树上剖分，求最短链可能的最大长度。显然，有一个很容易的 DP 是设 \(f_i\) 为以 \(i\) 结尾的最短链长度，显然，它会从儿子中的最短链转移而来。那么，在换根的过程中，我们需要记录一个全局最小值和全局次小值，可…...

编程日记 2025/9/15 14:53:38

MySQL 日期时间类型：从入门到精通的核心指南 - 指南

MySQL 日期时间类型：从入门到精通的核心指南 - 指南pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", monosp…...

编程日记 2025/9/17 19:34:06

Map对象在JavaScript循环中的使用

在JavaScript中，Map对象是一种新的键值对集合数据结构，与传统的Object有着本质的差异。一个Map的键可以是任意值，包括函数、对象或任何原始值。Map对象与传统的Object相比，有以下几个显著的优点：键的范围不限于字符串和Symbol。 Map对象的键值对是有序的，即键值对的插入顺…...

编程日记 2025/9/15 14:53:34

戒己谨言

言一高投入，低期待 —— 2025.9.13 言二学习是以知识武装自己 —— 2025.9.13...

编程日记 2025/9/15 14:53:32