当前位置： 首页 > news >正文

机器学习 - 线性回归（最大后验估计）

news 来源：原创 2025/5/18 23:20:13

最大似然估计的一个缺点是当训练数据比较少时会发生过拟合，估计的参数可能不准确.为了避免过拟合，我们可以给参数加上一些先验知识.

一、先从最大似然估计的一个缺点入手

最大似然估计（MLE）在处理小样本数据时，容易发生过拟合，导致估计的参数可能不准确。这是因为MLE旨在找到使观测数据概率最大的参数值，当训练数据较少时，模型可能会过度拟合这些有限的数据点，导致模型在新数据上的泛化能力下降。

原因分析：

  1. 数据代表性不足： 小样本数据可能无法充分代表总体数据的分布特征。MLE在这种情况下可能会过度拟合训练数据中的噪声和偶然性，导致模型对训练数据拟合得很好，但在处理新数据时表现不佳。

  2. 模型复杂度与数据量不匹配： 当模型的参数数量较多，而训练数据较少时，模型可能会过度拟合训练数据，捕捉到数据中的随机噪声，而不是潜在的真实模式。

解决方法：

为了解决MLE在小样本情况下的过拟合问题，可以考虑以下方法：

  1. 引入正则化： 在目标函数中添加正则化项（如L1或L2正则化），可以限制模型的复杂度，防止过拟合。

  2. 使用先验信息： 采用最大后验估计（MAP）或贝叶斯估计，将先验知识融入模型，有助于在数据不足时获得更稳健的参数估计。

  3. 数据扩充： 通过数据增强技术或收集更多的数据，增加训练样本的数量，降低过拟合的风险。

通过上述方法，可以缓解MLE在小样本情况下的过拟合问题，提高模型的泛化能力。

二、这里我们还需要回顾一下贝叶斯公式

贝叶斯公式描述了在已知某事件发生的情况下，另一个事件发生的概率如何调整。其数学形式为：

其中：

  • P(A∣B)：事件 B 发生的情况下，事件 A 发生的后验概率。

  • P(B∣A)：事件 A 发生的情况下，事件 B 发生的条件概率。

  • P(A)：事件 A 的先验概率，即在未考虑事件 B 时，A 发生的概率。

  • P(B)：事件 B 的边缘概率，即 B 发生的总体概率。

三、最大后验估计

（一）最大后验估计（MAP）的原理

在贝叶斯统计中，我们不仅关注数据本身（似然函数），还结合对参数的先验知识（先验分布）来进行估计。假设 θ 是我们需要估计的参数，D 表示观测数据，根据贝叶斯公式，参数的后验分布为

其中：

  • p(D∣θ) 是似然函数，表示在参数 θ 下，数据 D 出现的概率；
  • p(θ) 是先验分布，表示在看到数据之前对参数 θ 的先验信念；
  • p(D) 是数据的边缘似然（或称证据），与 θ 无关。

这个过程反映了：MAP估计不仅要考虑数据如何支持参数（似然），还要考虑先验知识对参数的影响。

（二）推导过程

假设我们的数据

来自于某个分布，参数为 θ，且这些数据相互独立，那么似然函数为

先验分布 p(θ)表达了我们对参数在观测数据之前的信念。于是后验分布为

MAP估计就是选择使得 p(D∣θ)p(θ)最大的 θ：

为了便于求解，通常取对数，得到对数后验（注意对数是单调递增函数，最大化对数后验等价于最大化后验）：

接下来，我们对这个表达式关于 θ 求导，令其等于零，从而得到最优参数的条件。

（三）一个简单的例子：抛硬币实验

问题描述：
假设我们希望估计一枚硬币正面朝上的概率 θ，现从硬币中抛出 n 次，观察到 k 次正面。

模型设定：

  • 每次抛掷可以看作一次伯努利试验，结果为1（正面）或0（反面）。

  • 似然函数为：

先验选择：
假设我们对 θ 先验信念服从Beta分布：

其中，α和 β 是先验参数。

后验分布：
根据贝叶斯公式，后验分布为

MAP估计：
Beta分布的众数（在 α,β>1 的条件下）为

这就是在观测到 k 次正面、n 次抛掷，且先验参数为 α 和 β 时，得到的最大后验估计。

理解：

  • 当先验参数为 α=1 和 β=1（即均匀先验）时，MAP估计退化为最大似然估计，即

  • 当数据较少时，先验起到重要作用；当数据较多时，似然部分主导估计，MAP估计趋向于MLE结果。

  • 原理：MAP估计结合了数据的似然和参数的先验分布，通过最大化后验概率来估计参数。
  • 过程：构建似然函数、选择先验、计算后验、取对数、对参数求导、令导数为零求解最优参数。
  • 例子：在抛硬币实验中，通过选择Beta先验和伯努利似然函数，可以得到参数 θ\thetaθ 的后验分布，并由此推导出MAP估计公式。

四、MAP如何应用于线性回归？

在线性回归中，应用**最大后验估计（MAP）**可以有效地结合数据和先验知识，对模型参数进行估计，从而增强模型的稳健性，特别是在数据量较少或存在多重共线性的情况下。

1. 线性回归模型概述

线性回归模型试图拟合输入变量 X 与输出变量 y 之间的线性关系，模型形式为：

其中，X 是 n×d 的设计矩阵，包含 n 个样本的 d 个特征；w 是 d 维的参数向量；ϵ 是误差项，通常假设其服从均值为零、方差为 σ2 的正态分布。

2. 最大后验估计（MAP）在线性回归中的应用

在传统的最小二乘法中，参数估计仅基于观测数据，可能导致在数据稀少或噪声较大时模型的过拟合。MAP估计通过引入先验分布，结合观测数据，提供对参数的更稳健估计。

步骤如下：

其中，σ2/τ2​ 是正则化参数，控制先验对估计的影响。当 τ2 较小时，先验影响较大；反之，先验影响较小。

3. 与岭回归的关系

值得注意的是，MAP估计与岭回归（L2正则化）密切相关。在岭回归中，通过在损失函数中添加 λ∥w∥2 项来防止过拟合。这种方法等价于对参数 w 施加零均值、方差为 τ2 的高斯先验。因此，MAP估计提供了岭回归的贝叶斯解释。

五、对于最大后验估计，为什么选择使得后验概率最大的参数值，即是最优参数？

在最大后验估计（MAP）中，我们通过最大化后验概率来选择模型参数。根据贝叶斯定理，后验概率 P(θ∣D) 与似然函数 P(D∣θ) 和先验概率 P(θ) 的乘积成正比，即：

其中，θ表示模型参数，D 表示观测数据。最大化后验概率等价于最大化上述乘积。因此，选择使后验概率最大的参数值，意味着我们在考虑了观测数据（通过似然函数）和先验知识（通过先验概率）的情况下，找到最符合两者的参数估计。这使得所选参数既符合当前数据，又融入了先验信息，从而提高估计的可靠性和稳健性。

相关文章：

机器学习 - 线性回归（最大后验估计）

最大似然估计的一个缺点是当训练数据比较少时会发生过拟合，估计的参数可能不准确.为了避免过拟合，我们可以给参数加上一些先验知识. 一、先从最大似然估计的一个缺点入手 最大似然估计（MLE）在处理小样本数据时，容易发…...

编程日记 2025/5/18 23:20:13

Web前端开发--HTML

HTML快速入门 1.新建文本文件&#xff0c;后缀名改为.html 2.编写 HTML结构标签 3.在<body>中填写内容 HTML结构标签 特点 1.HTML标签中不区分大小写 2.HTML标签属性值中可以使用单引号也可使用双引号 3.HTML语法结构比较松散&#xff08;但在编写时要严格一点&…...

编程日记 2025/5/18 23:17:27

Linux | 系统调用

文章目录 Linux | 系统调用open 系统调用功能头文件和函数原型参数解释返回值示例代码 其他常用系统调用read 系统调用write 系统调用close 系统调用lseek 系统调用stat 系统调用 Linux | 系统调用 前言&#xff1a;在Linux系统中&#xff0c;系统调用是用户空间程序与内核进行…...

编程日记 2025/5/18 23:17:27

用easyExcel如何实现？

要使提供的 ExcelModelListener 类来解析 Excel 文件并实现批量存储数据库的功能&#xff0c;需要结合 EasyExcel 库来读取 Excel 数据。具体来说&#xff0c;可以使用 EasyExcel.read() 方法来读取 Excel 文件&#xff0c;并指定 ExcelModelListener 作为事件监听器。 下面是…...

编程日记 2025/5/13 15:14:14

ASP.NET Core SignalR身份验证

在需要登录才能访问的集线器类上或者方法上添加[Authorize]。也支持角色等设置&#xff0c;可以设置到Hub或者方法上。 配置好User、Role、MyDbContext、JWTSettings、IdentityHelper Program.cs using SignaIR的基本使用; using Scalar.AspNetCore; using Identity框架; us…...

编程日记 2025/5/11 23:54:19

查询语句来提取 detail 字段中包含 xxx 的 URL 里的 commodity/ 后面的数字串

您可以使用以下 SQL 查询语句来提取 detail 字段中包含 oss.kxlist.com 的 URL 里的 commodity/ 后面的数字串&#xff1a; <p><img style"max-width:100%;" src"https://oss.kxlist.com//8a989a0c55e4a7900155e7fd7971000b/commodity/20170925/20170…...

编程日记 2025/5/16 17:18:48

linux本地部署deepseek

目录 安装ollama安装open-webui网页客户端界面本地安装open-webui直接安装在裸机上安装在docker中 外部服务器安装open-webui&#xff0c;并链接本地的ollama服务直接安装在外部服务器裸机上配置systemd启动open-webui 安装在docker中 最后更新时间2024-05-24 安装ollama olla…...

编程日记 2025/5/16 14:11:18

ESP32_H2（IDF）学习系列-蓝牙基础学习（上）

一、简介 参考&#xff1a;[乐鑫-蓝牙] Bluetooth LE 的分层架构 Bluetooth LE 协议定义了三层软件结构&#xff0c;自上而下分别是 应用层 (Application Layer) 应用层&#xff08;Application Layer&#xff09; 主机层 (Host Layer) 控制器层 (Controller Layer) 应用…...

编程日记 2025/5/16 17:29:33

防御综合实验

需求一 配置vlan [SW2]int g 0/0/2 [SW2-GigabitEthernet0/0/2]port link-type access [SW2-GigabitEthernet0/0/2]port default vlan 10 [SW2-GigabitEthernet0/0/2]int g0/0/3 [SW2-GigabitEthernet0/0/3]port link-type access [SW2-GigabitEthernet0/0/3]port default vl…...

编程日记 2025/5/14 10:57:42

Blazor-＜select＞

今天我们来说说<select>标签的用法&#xff0c;我们还是从一个示例代码开始 page "/demoPage" rendermode InteractiveAuto inject ILogger<InjectPage> logger; <h3>demoPage</h3> <select multiple>foreach (var item in list){<…...

编程日记 2025/5/18 10:01:07

zy.21

PHP(续) PHP代码执行漏洞 1.PHP中代码漏洞的概念 代码执行漏洞就是在代码中若存在eval、assert等能将所接收的参数作为代码去执行,并且拼接的内容可被访问者控制,也就是把传入的参数给拼接进去了,造成了额外的代码执行,也就造成了代码执行漏洞。&#xff08;大概原理&#x…...

编程日记 2025/5/18 23:17:27

【c++】四种类型转换形式

【c】四种类型转换形式 编译时: static_cast&#xff08;静态转换&#xff09; const_cast&#xff08;去常性转换&#xff09; reinterpret_cast&#xff08;重新解释转换&#xff0c;直接转换地址&#xff09; 运行时: dynamic_cast&#xff08;动态转换&#xff0c;运行时类…...

编程日记 2025/5/18 23:18:51

在npm上传属于自己的包

最近在整理代码&#xff0c;上传到npm方便使用&#xff0c;所以学习了如何在npm发布一个包&#xff0c;整理写成一篇文章和大家一起交流。 1、注册npm账号 npm | Home 2、确保是登录状态 &#xff08;在包目录下&#xff0c;终端执行 npm login) 按enter键自动打开页面&…...

编程日记 2025/5/17 15:29:49

关系型数据库主备高可用方案对比笔记

目录标题 数据库高可用性解决方案对比Oracle Data GuardMySQL 主从复制SQL Server AlwaysOnPG Patroni 流复制达梦 DMDataWatch人大金仓 repmgr 备库故障是否影响主库&#xff1f;表格关系型数据库主备高可用方案对比笔记 数据库高可用性解决方案对比 Oracle Data Guard Orac…...

编程日记 2025/5/14 2:59:51

怎么查看电脑显存大小（查看电脑配置）

这里提供一个简单的方法查看 winr打开cmd 终端输入dxdiag进入DirectX 点击显示查看设备的显示内存&#xff08;VRAM&#xff09; 用这个方法查看电脑配置和显存是比较方便的 dxdiag功能 Dxdiag是Windows的DirectX诊断工具&#xff0c;其主要作用包括但不限于以下几点&#…...

编程日记 2025/5/17 1:29:29

深入理解指针（二）

深入理解指针&#xff08;二&#xff09; 前言&#xff1a;一、const修饰指针1.const修饰变量2.const修饰的指针变量 二、野指针1.野指针的成因(1).指针的未初始化(2).指针的越界访问(3).指针的空间释放 2.如何规避野指针(1).指针初始化(2).小心访问越界(3)指针不再使用的时候&…...

编程日记 2025/5/18 2:46:55

非华为电脑制作一碰传NFC贴纸

前提&#xff1a; 在笔记本上安装好华为电脑管家&#xff0c;可以在 github 上下载&#xff0c;并测试可以正常和手机或平板连接步骤&#xff1a; 1、打开电脑华为电脑管家&#xff0c;点【快捷服务】&#xff0c;记录下序列号&#xff0c;一般安装后会生成16位的序列号 2、…...

编程日记 2025/5/9 20:06:31

Wpf美化按钮，输入框，下拉框，dataGrid

Wpf美化按钮&#xff0c;输入框&#xff0c;下拉框&#xff0c;dataGrid 引用代码后 引用资源 <ControlTemplate x:Key"CustomProgressBarTemplate" TargetType"ProgressBar"><Grid><Border x:Name"PART_Track" CornerRadius&q…...

编程日记 2025/5/15 13:53:53

Office/WPS接入DeepSeek等多个AI工具，开启办公新模式！

在现代职场中&#xff0c;Office办公套件已成为工作和学习的必备工具&#xff0c;其功能强大但复杂&#xff0c;熟练掌握需要系统的学习。为了简化操作&#xff0c;使每个人都能轻松使用各种功能&#xff0c;市场上涌现出各类办公插件。这些插件不仅提升了用户体验&#xff0c;…...

编程日记 2025/5/15 14:57:21

【深度学习】多目标融合算法（四）：多门混合专家网络MMOE（Multi-gate Mixture-of-Experts）

目录 一、引言 二、MMoE&#xff08;Multi-gate Mixture-of-Experts&#xff0c;多门混合专家网络&#xff09; 2.1 技术原理 2.2 技术优缺点 2.3 业务代码实践 2.3.1 业务场景与建模 2.3.2 模型代码实现 2.3.3 模型训练与推理测试 2.3.4 打印模型结构 三、总结 一、…...

编程日记 2025/5/15 11:00:53

git submodule使用

git submodule 用于关联其他独立的仓库。 它有着几点好处&#xff1a; 代码复用&#xff1a;可以将工具代码放到单独的仓库&#xff0c;再通过 submodule 关联。模块化开发&#xff1a;可以将项目拆分成多个模块&#xff0c;每个模块设置单独仓库独立开发&#xff0c;再通过 su…...

编程日记 2025/5/18 5:35:57

朝天椒USB服务器：解决加密狗远程连接

本文探讨朝天椒USB服务器用Usb Over Network技术&#xff0c;解决加密狗在虚拟机、云主机甚至异地的远程连接问题。 在企业数字化转型的浪潮中&#xff0c;加密狗作为防止软件盗版的重要手段&#xff0c;广泛应用于各类软件授权场景。然而&#xff0c;随着企业超融合进程不断加…...

编程日记 2025/5/7 9:27:37

[笔记.AI]deepseek-r1的不同版本（满血版、蒸馏版、量化）

满血版&#xff1a;是原始的高性能模型&#xff1b; 蒸馏版&#xff08;Distill&#xff09;&#xff1a;是指将大型模型&#xff08;教师模型&#xff09;的知识转移到较小的模型&#xff08;学生模型&#xff09;中&#xff0c;以保持性能的同时减少计算资源的需求&#xff1…...

编程日记 2025/5/17 9:33:19

Kokoro 开源文本转语音引擎上线！多语言支持，无需联网，浏览器内极速运行

Kokoro 是一款轻量级的开源文本转语音（TTS）引擎，凭借其高效能和轻量化设计，迅速在技术社区中引起关注。本文将详细介绍 Kokoro 的主要特点，并提供在浏览器和 Python 环境中的代码示例，帮助您快速上手。 1. Kokoro：可在浏览器中运行的 TTS 引擎 1.1 简介 Kokoro 是一个…...

编程日记 2025/5/18 1:29:36

Unity 基础编程

在这个练习中将新建unity脚本&#xff0c;控制player的运动与转动&#xff0c;实现用代码检测碰撞与删除物体。 该练习将应用附件中的项目文件&#xff0c;该文件与Unity快速练习的文件是同一个项目文件。 一、构建Player运动脚本 该部分将构建一个在场景中由玩家控制游戏物…...

编程日记 2025/5/15 6:12:34

CTFHub-RCE系列wp

目录标题 引言什么是RCE漏洞 eval执行文件包含文件包含php://input读取源代码远程包含 命令注入无过滤过滤cat过滤空格过滤目录分隔符过滤运算符综合过滤练习 引言 题目共有如下类型 什么是RCE漏洞 RCE漏洞&#xff0c;全称是Remote Code Execution漏洞&#xff0c;翻译成中文…...

编程日记 2025/5/18 12:25:29

基于YoloV11和驱动级鼠标模拟实现Ai自瞄

本文将围绕基于 YoloV11 和驱动级鼠标实现 FPS 游戏 AI 自瞄展开阐述。 需要着重强调的是&#xff0c;本文内容仅用于学术研究和技术学习目的。严禁任何个人或组织将文中所提及的技术、方法及思路应用于违法行为&#xff0c;包括但不限于在各类游戏中实施作弊等违规操作。若因违…...

编程日记 2025/5/15 15:27:20

基于微信小程序的博物馆预约系统的设计与实现

hello hello~ &#xff0c;这里是 code袁~&#x1f496;&#x1f496; &#xff0c;欢迎大家点赞&#x1f973;&#x1f973;关注&#x1f4a5;&#x1f4a5;收藏&#x1f339;&#x1f339;&#x1f339; &#x1f981;作者简介&#xff1a;一名喜欢分享和记录学习的在校大学生…...

编程日记 2025/5/16 15:15:36

R语言LCMM多维度潜在类别模型流行病学研究：LCA、MM方法分析纵向数据

全文代码数据&#xff1a;https://tecdat.cn/?p39710 在数据分析领域&#xff0c;当我们面对一组数据时&#xff0c;通常会有已知的分组情况&#xff0c;比如不同的治疗组、性别组或种族组等&#xff08;点击文末“阅读原文”获取完整代码数据&#xff09;。 然而&#xff0c;…...

编程日记 2025/5/18 23:18:50

python卷积神经网络人脸识别示例实现详解

目录 一、准备 1&#xff09;使用pytorch 2&#xff09;安装pytorch 3&#xff09;准备训练和测试资源 二、卷积神经网络的基本结构 三、代码实现 1&#xff09;导入库 2&#xff09;数据预处理 3&#xff09;加载数据 4&#xff09;构建一个卷积神经网络 5&#xff0…...

编程日记 2025/5/16 12:08:30

如何把邮件批量导出到本地

最近遇到邮箱满了的问题&#xff0c;需要把邮件批量导出到本地&#xff0c;然后清空邮箱。 问题是这个邮箱的官网&#xff0c;没有批量导出按钮&#xff0c;比较麻烦&#xff1b;总不能一封一封下载到本地&#xff0c;上万的。 找到了一个好用的工具&#xff0c;Mozilla Thun…...

编程日记 2025/5/16 17:40:26

C++智能指针的使用

文章目录 智能指针的使用和原理智能指针的使用场景RAII和智能指针C标准库智能指针的使用 智能指针的使用和原理 智能指针的使用场景 1. 下面的程序中&#xff0c;new了以后&#xff0c;我们也delete了&#xff0c;但是因为抛异常导致后面的delete没有得到执行&#xff0c;所以…...

编程日记 2025/5/18 20:28:20

Docker安装Redis

一、保证Docker提起来了 systemctl status docker想这没有启动要先启动一下 systemctl status docke二、拉取Redis&#xff08;默认拉最新版&#xff09; sudo docker pull redis检查一下拉成功没有 docker images三、创建相关目录 mkdir -p /home/redis/{conf,data}四、…...

编程日记 2025/5/14 7:47:11

深入理解MySQL索引底层数据结构

文章目录 前言一、MySQL索引是什么&#xff1f;二、索引的核心需求三、MySQL为什么选择BTree做为数据结构1.如果使用的是Hash 做为数据结构2.如果使用二叉树做为数据结构3.使用红黑树做为数据结构4.使用B-Tree做为数据结构5.BTree做为数据结构 4.BTree深度剖析结构特性与 B-Tre…...

编程日记 2025/5/17 6:56:02

udp和tcp的区别

目录 UDP 和 TCP 的区别 1. 连接性 2. 可靠性 3. 数据传输顺序 4. 流量控制和拥塞控制 5. 效率 6. 应用场景 UDP 和 TCP 的 C/C 代码实现区别 1. TCP 服务器端和客户端 TCP 服务器端&#xff08;Server&#xff09; TCP 客户端&#xff08;Client&#xff09; 2. U…...

编程日记 2025/5/15 13:53:50

VMware 虚拟机 ubuntu 20.04 扩容工作硬盘

一、关闭虚拟机 关闭虚拟机参考下图&#xff0c;在vmware 调整磁盘容量 二、借助工具fdisk testubuntu ~ $ df -h Filesystem Size Used Avail Use% Mounted on udev 1.9G 0 1.9G 0% /dev tmpfs 388M 3.1M 385M 1% /run /dev/sda5 …...

编程日记 2025/5/17 0:26:59

MapReduce是什么？

MapReduce 是一种编程模型&#xff0c;最初由 Google 提出&#xff0c;旨在处理大规模数据集。它是分布式计算的一个重要概念&#xff0c;通常用于处理海量数据并进行并行计算。MapReduce的基本思想是将计算任务分解为两个阶段&#xff1a;Map 阶段和 Reduce 阶段。 Map 阶段&a…...

编程日记 2025/5/17 13:28:44

跨越边界，大模型如何助推科技与社会的完美结合？

点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入&#xff01; 概述 2024年&#xff0c;大模型技术已成为人工智能领域的焦点。这不仅仅是一项技术进步&#xff0c;更是一次可能深刻影响社会发展方方面面的变革。大模型的交叉能否推动技术与社会的真正融合&#xff1f;2025年…...

编程日记 2025/4/29 20:02:04

计算机毕业设计SpringBoot校园二手交易小程序 校园二手交易平台(websocket消息推送+云存储+双端+数据统计)(源码+文档+运行视频+讲解视频)

温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长联系方式的名片&#xff01; 温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长联系方式的名片&#xff01; 温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长联系方式的名片&#xff01; 作者简介&#xff1a;Java领…...

编程日记 2025/5/15 7:46:39

RK3568平台开发系列讲解（ConfigFS篇）ConfigFS核心数据结构

🚀返回专栏总目录 文章目录 一、数据结构二、结构体关系三、案例3.1、configfs_subsystem 实例3.2、config_group 实例化四、属性和方法五、config_item实例化沉淀、分享、成长，让自己和他人都能有所收获！😄 理解 ConfigFS 的核心数据结构对于深入使用和定制 ConfigFS 非…...

编程日记 2025/5/18 5:06:23

【04】RUST特性

文章目录 隐藏shadowing所有权ownership堆区&栈区所有权规则变量&数据Copy Trait与Drop TraitCopy TraitDrop Trait移动克隆函数参数与返回值的所有权参数引用可变引用悬垂引用slice生命周期隐藏shadowing 有点像同名覆盖 let mut guess = String::new();let guess: u3…...

编程日记 2025/5/18 22:36:44

c语言函数学习

C语言函数学习笔记&#xff1a;从入门到实践 一、什么是函数&#xff1f; 函数是C语言中用于封装特定功能的代码块&#xff0c;是模块化编程的核心。通过函数可以实现&#xff1a; 代码复用&#xff1a;避免重复编写相同逻辑 逻辑清晰&#xff1a;将复杂程序分解为多个小模块…...

编程日记 2025/5/16 11:43:54

LSTM的介绍

网上一些描述LSTM文章看的云里雾里&#xff0c;只是介绍LSTM 的结构&#xff0c;并没有说明原理。我这里用通俗易懂的话来描述一下。 我们先来复习一些RNN的核心公式&#xff1a; h t t a n h ( W h h t − 1 W x x t b h ) h_t tanh(W_h h_{t-1} W_x x_t b_h) ht​tan…...

编程日记 2025/5/18 14:17:27

XML DOM

XML DOM XML DOM（Document Object Model）是一种用于访问和操作XML文档的标准方式。它提供了一种树形结构来表示XML文档，使得开发者能够方便地对XML数据进行读取、修改和操作。本文将详细介绍XML DOM的基本概念、结构、操作方法以及应用场景。 一、XML DOM的基本概念 XML …...

编程日记 2025/4/17 22:34:11

认识网络安全

一 网络攻击链 踩点-工具准备-载荷投递-漏洞利用-释放载荷-建立通道-目标达成 简化下&#xff1a; 目标侦察&#xff1a;准确识别目标&#xff0c;收集目标详细信息&#xff0c;比如 网络、 邮箱、员工、社会关系、对外提供服务、漏洞 信息等&#xff0c;为 后续攻击做准备。…...

编程日记 2025/5/16 21:20:49

华为支付-免密支付接入签约代扣场景开发步骤

一、预签约&#xff08;服务器开发&#xff09; 1.开发者按照商户模型调用预直连商户预签约或服务商预签约接口获取preSignNo构建签约信息参数contractStr。 为保证支付订单的安全性和可靠性需要对请求body和请求头PayMercAuth对象内的入参排序拼接进行签名。请参考排序拼接和…...

编程日记 2025/5/12 15:25:55

9.JVM-方法区

前言 这次所讲述的是运行时数据区的最后一个部分 从线程共享与否的角度来看 ThreadLocal&#xff1a;如何保证多个线程在并发环境下的安全性&#xff1f;典型应用就是数据库连接管理&#xff0c;以及会话管理 栈、堆、方法区的交互关系 下面就涉及了对象的访问定位 Person&a…...

编程日记 2025/5/17 20:16:57

【Linux Oracle】杂货铺 日常实用2024

1.跨服务器移动文件 passwd=^T^bxxxx `/usr/bin/expect <<-EOF set timeout -1 spawn scp -r ${BATCH_TIME} sxnhtc@192.168.3.x:${EXP_MCRO_DIR}/ expect "*password:" send "$passwd\r" interact expect eof EOF` curl -k -X GET https://192.16…...

编程日记 2025/5/10 9:02:53

深入理解指针初阶：从概念到实践

一、引言 在 C 语言的学习旅程中&#xff0c;指针无疑是一座必须翻越的高峰。它强大而灵活&#xff0c;掌握指针&#xff0c;能让我们更高效地操作内存&#xff0c;编写出更优化的代码。但指针也常常让初学者望而生畏&#xff0c;觉得它复杂难懂。别担心&#xff0c;本文将用通…...

编程日记 2025/5/18 1:13:57

Git 与 Git常用命令

Git 是一个开源的分布式版本控制系统&#xff0c;广泛用于源代码管理。与传统的集中式版本控制系统不同&#xff0c;Git 允许每个开发者在本地拥有完整的代码库副本&#xff0c;支持离线工作和高效的分支管理。每次提交时&#xff0c;Git 会对当前项目的所有文件创建一个快照&a…...

编程日记 2025/5/17 3:48:40