自然语言处理（13:RNN的实现)
系列文章目录
第一章 1:同义词词典和基于计数方法语料库预处理
第一章 2:基于计数方法的分布式表示和假设，共现矩阵，向量相似度
第一章 3:基于计数方法的改进以及总结
第二章 1:word2vec
第二章 2:word2vec和CBOW模型的初步实现
第二章 3:CBOW模型的完整实现
第二章 4:CBOW模型的补充和skip-gram模型的理论
第三章 1:word2vec的高速化(CBOW的改进)
第三章 2:word2vec高速化(CBOW的二次改进)
第三章 3:改进版word2vec的学习以及总结
第四章 1:RNN(RNN的前置知识和引入)
第四章 2:RNN(RNN的正式介绍)
第四章 3:RNN的实现
第四章 4:处理时序数据的层的实现
第四章 5:RNNLM的学习和评价
文章目录
目录
系列文章目录
文章目录
前言
一、RNN的实现
1.RNN层的实现
2.Time RNN层的实现
前言
通过之前的探讨，我们已经看到了RNN的全貌。实际上，我们要实现的是一个在水平方向上延伸的神经网络。另外，考虑到基于Truncated BPTT的学习，只需要创建一个在水平方向上长度固定的网络序列即可，来吧，开始实现(迫不及待！！)
一、RNN的实现
如上图所示，目标神经网络接收长度为T的时序数据（T为任意值）， 输出各个时刻的隐藏状态T个。这里，考虑到模块化，将图中在水平方向上延伸的神经网络实现为“一个层”，如下图所示。
如图5-17所示，将垂直方向上的输入和输出分别捆绑在一起，就可以 将水平排列的层视为一个层。换句话说，可以将(x0,x1,···,xT−1)捆绑为 xs 作为输入，将(h0,h1,···,hT−1)捆绑为hs作为输出。这里，我们将进 行Time RNN层中的单步处理的层称为“RNN层”，将一次处理T步的层称为“Time RNN层 ”。
我们接下来进行的实现的流程是：首先，实现进行RNN单步处理的RNN 类；然后，利用这个RNN类，完成一次进行T步处理的TimeRNN类。
1.RNN层的实现
现在，我们来实现进行RNN单步处理的RNN类。首先复习一下RNN 正向传播的数学式，如下式所示：
这里，我们将数据整理为mini-batch进行处理。因此，xt（和ht）在行方向上保存各样本数据。在矩阵计算中，矩阵的形状检查非常重要。这里，假设批大小是N，输入向量的维数是D，隐藏状态向量的维数是H，则矩阵的形状检查可以像下面这样进行：
如上图所示，通过矩阵的形状检查，可以确认它的实现是否正确， 至少可以确认它的计算是否成立。基于以上内容，现在我们给出RNN类的初始化方法和正向传播的forward()方法
class RNN:def __init__(self, Wx, Wh, b):self.params = [Wx, Wh, b]self.grads = [np.zeros_like(Wx), np.zeros_like(Wh), np.zeros_like(b)]self.cache = None# 中间数据cache def forward(self, x, h_prev):Wx, Wh, b = self.paramst = np.dot(h_prev, Wh) + np.dot(x, Wx) + bh_next = np.tanh(t)self.cache = (x, h_prev, h_next)return h_next
RNN 的初始化方法接收两个权重参数和一个偏置参数。这里，将通过函数参数传进来的模型参数设置为列表类型的成员变量params。然后，以各个参数对应的形状初始化梯度，并保存在grads中。最后，使用None对反向传播时要用到的中间数据cache进行初始化。
正向传播的forward(x, h_prev) 方法接收两个参数：从下方输入的x和从左边输入的h_prev。剩下的就是按下式进行实现。
顺便说一下，这里 从前一个RNN层接收的输入是h_prev，当前时刻的RNN层的输出（=下一时刻的RNN层的输入）是h_next。
接下来，我们继续实现RNN的反向传播。在此之前，让我们通过下图的计算图再次确认一下RNN的正向传播：
RNN层的正向传播可由上图的计算图表示。这里进行的计算由矩阵乘积“MatMul”、加法“+”和“tanh”这3种运算构成。此外，因为偏置 b 的加法运算会触发广播操作，所以严格地讲，这里还应该加上Repeat节点。不过简单起见，这里省略了它。
剩下就是基于下图，按正向传播的反方向实现各个运算的反向传播：
下面实现RNN层的backward()
def backward(self, dh_next):"""这里看不懂的，可以看博主前几节的文章，或者问Deepseek"""Wx, Wh, b = self.paramsx, h_prev, h_next = self.cachedt = dh_next * (1 - h_next ** 2)db = np.sum(dt, axis=0)dWh = np.dot(h_prev.T, dt)dh_prev = np.dot(x.T,, dt)dWx = np.dot(x.T, dt)dx = np.dot(dt, Wx.T)self.grads[0][...] = dWxself.grads[1][...] = dWhself.grads[2][...] = dbreturn dx, dh_prev
以上就是RNN层的反向传播的实现。接下来，我们将实现Time RNN层
2.Time RNN层的实现
Time RNN 层由T个RNN层构成,如下所示：
由上图可知，Time RNN层是T个RNN层连接起来的网络。我们将这个网络实现为Time RNN层。这里，RNN层的隐藏状态h保存在成员变量中。如下图所示，在进行隐藏状态的“继承”时会用到它。
如上图所示，我们使用Time RNN层管理RNN层的隐藏状态。这样一来，使用Time RNN的人就不必考虑RNN层的隐藏状态的“继承工作”了。另外，我们可以用stateful这个参数来控制是否继承隐藏状态。
下面，我们来看一下Time RNN层的实现。
class TimeRNN:def __init__(self, Wx, Wh, b, stateful=False):self.params = [Wx, Wh, b]self.grads = [np.zeros_like(Wx),np.zeros_like(Wh),np.zeros_like(b)]self.layers = Noneself.h, self.dh = None, Noneself.stateful = statefuldef set_state(self, h):self.h = hdef reset_state(self):self.h = None
初始化方法的参数有权重、偏置和布尔型（True/False）的stateful。 一个成员变量layers在列表中保存多个RNN层，另一个成员变量，h保存调用forward() 方法时的最后一个RNN层的隐藏状态。另外，在调用 backward() 时，dh保存传给前一个块的隐藏状态的梯度（关于dh，我们会在 反向传播的实现中说明）。
考虑到TimeRNN类的扩展性，将设定Time RNN层的隐藏状态的 方法实现为set_state(h)。另外，将重设隐藏状态的方法实现为 reset_state()。
当 stateful 为 True 时，Time RNN 层“有状态”。这里说的“有状态”是指维 持Time RNN层的隐藏状态。也就是说，无论时序数据多长，Time RNN 层的正向传播都可以不中断地进行。而当stateful为False时，每次调用Time RNN 层的forward() 时，第一个RNN层的隐藏状态都会被初始化为 零矩阵（所有元素均为0的矩阵）。这是没有状态的模式，称为“无状态”。
(True就是这一层受上一层的影响，具有依赖性;
False就是相互独立，各个数据互不影响)
接着，我们来看一下正向传播的实现:
def forward(self, xs):Wx, Wh, b = self.paramsN, T, D = xs.shapeD, H = Wx.shapeself.layers = []hs = np.empty((N, T, H), dtype='f')if not self.stateful or self.h is None:self.h = np.zeros((N, H), dtype='f')for t in range(T):layer = RNN(*self.params)self.h = layer.forward(xs[:, t, :], self.h)hs[:, t, :] = self.hself.layers.append(layer)return hs正向传播的forward(xs)方法从下方获取输入xs，xs囊括了T个时序数 据。因此，如果批大小是N，输入向量的维数是D，则xs的形状为(N,T,D)。 在首次调用时（self.h为None时 ）， RNN层的隐藏状态h由所有元素 均为0的矩阵初始化。另外，在成员变量stateful为False的情况下，h将 总是被重置为零矩阵。
在主体实现中，首先通过hs=np.empty((N, T, H), dtype='f') 为输出准 备一个“容器”。接着，在T次for循环中，生成RNN层，并将其添加到成员变量layers中。然后，计算RNN层各个时刻的隐藏状态，并存放在hs 的对应索引（时刻）中。
（如果调用Time RNN层的forward()方法，则成员变量h中将存放 最后一个RNN层的隐藏状态。在stateful为True的情况下，在下 一次调用forward()方法时，刚才的成员变量h将被继续使用。而在 stateful为False的情况下，成员变量h将被重置为零向量。）
接下来是Time RNN层的反向传播的实现。用计算图绘制这个反向传播：
在上图中，将从上游（输出侧的层）传来的梯度记为dhs，将流向 下游的梯度记为dxs。因为这里我们进行的是Truncated BPTT，所以不需要流向这个块上一时刻的反向传播。不过，我们将流向上一时刻的隐藏状态的梯度存放在成员变量dh中。这是因为在第7章探讨seq2seq（sequence to-sequence，序列到序列）时会用到它（具体请参考第7章 ）。 以上就是Time RNN层的反向传播的全貌图。如果关注第t个RNN层， 则它的反向传播如下图所示。
从上方传来的梯度dht和从将来的层传来的梯度dhnext会传到第t个 RNN层。这里需要注意的是，RNN层的正向传播的输出有两个分叉。在正 向传播存在分叉的情况下，在反向传播时各梯度将被求和。因此，在反向传 播时，流向RNN层的是求和后的梯度。考虑到以上这些，反向传播的实现 如下所示。
def backward(self, dhs):Wx, Wh, b = self.paramsN, D, H = dhs.shapeD, H = Wx.shapedxs = np.empty((N, T, D), dtype="f")dh = 0grads = [0, 0, 0]for t in reversed(range(T)):layer = self.layers[t]dx, dh = layer.backward(dhs[:, t, :] + dh) # 求和后的梯度dxs[:, t, :] = dxfor i, grad in enumerate(layer.grads):grad[i] += gradfor i, grad in enumerate(grads):self.grads[i][...] = gradself.dh = dhreturn dxs这里，首先创建传给下游的梯度的“容器”（dxs）。接着，按与正向传 播相反的方向，调用RNN层的backward()方法，求得各个时刻的梯度dx， 并存放在dxs的对应索引处。另外，关于权重参数，需要求各个RNN层的 权重梯度的和，并通过“...”用最终结果覆盖成员变量self.grads。
以上就是对Time RNN层的实现的说明。
相关文章：
)
自然语言处理（13:RNN的实现)
系列文章目录 第一章 1:同义词词典和基于计数方法语料库预处理 第一章 2:基于计数方法的分布式表示和假设，共现矩阵，向量相似度 第一章 3:基于计数方法的改进以及总结 第二章 1:word2vec 第二章 2:word2vec和CBOW模型的初步实现 第二章 3:CBOW模型…...
Docker镜像迁移方案
Docker镜像迁移方案 文章目录 Docker镜像迁移方案一：背景二：操作方式三：异常原因参考： 一：背景 比如机器上已经有先有的容器，但是docker pull的时候是失败的二：操作方式 1、停止正在运行的容器…...
深度学习框架PyTorch——从入门到精通（10）PyTorch张量简介
这部分是 PyTorch介绍——YouTube系列的内容，每一节都对应一个youtube视频。（可能跟之前的有一定的重复） 创建张量随机张量和种子张量形状张量数据类型 使用PyTorch张量进行数学与逻辑运算简单介绍——张量广播关于张量更多的数学操作原地修改…...
Springboot 集成 Flowable 6.8.0
1. 创建 Spring Boot 项目 通过 Spring Initializr（https://start.spring.io/ ）创建一个基础的 Spring Boot 项目，添加以下依赖： Spring WebSpring Data JPAMySQL DriverLombok（可选，用于简化代码&#x…...
Vue3 项目通过 docxtemplater 插件动态渲染 .docx 文档（带图片）预览，并导出
Vue3 项目通过 docxtemplater 插件动态渲染 .docx 文档（带图片）预览，并导出 预览安装插件示例代码项目目录结构截图实际效果截图 动态渲染 .docx 文档（带图片），预览、导出安装插件docx 模板文件内容完整代码…...
实验一、Linux环境下实现进度条小程序：深入解析核心实现与关键技术细节
目录 引言：为什么需要进度条？环境准备与项目结构分析原理剖析：从终端输出到动态刷新代码逐行解析（附完整代码） 4.1 头文件与宏定义4.2 进度条的动态构建逻辑4.3 关键转义字符：\r与\n的深度对比4.4 缓冲机制…...
生活电子常识——cmd不能使用anaconda的python环境，导致输入python打开应用商店
前言 电脑已经安装了anaconda,从自带的Anaconda Prompt (Anaconda3)中是可以识别python环境的，然而切换到cmd时，突然发现cmd中无法识别anaconda的python环境，竟然打开了应用商店让我安装Python，这当然是不对的。 解决 这是因为…...
TypeScript中的声明合并：与JavaScript的对比与实践指南
引言 在大型项目开发中，代码的可维护性和可扩展性至关重要。TypeScript作为JavaScript的超集，通过静态类型系统带来了更强大的代码组织能力。其中声明合并（Declaration Merging） 是TypeScript独有的重要特性，本文将深…...
数据结构初阶-二叉树链式
目录 1.概念与结构 2.二叉数链式的实现 2.1遍历规则 2.2申请内存空间 2.3手动构建一棵二叉树 2.4二叉树结点的个数 2.5二叉树叶子结点的个数 2.6二叉树第K层结点个数 2.7二叉树的高度 2.8二叉树中查找值为x的结点 2.9二叉树的销毁 3.层序遍历 3.1概念 3.2层序遍历…...
神经外科手术的定位与导航全过程文档及程序)
2024年认证杯SPSSPRO杯数学建模B题(第二阶段)神经外科手术的定位与导航全过程文档及程序
2024年认证杯SPSSPRO杯数学建模 B题 神经外科手术的定位与导航 原题再现： 人的大脑结构非常复杂，内部交织密布着神经和血管，所以在大脑内做手术具有非常高的精细和复杂程度。例如神经外科的肿瘤切除手术或血肿清除手术，通常需要…...
Linux程序性能分析
为什么程序会慢？ 在深入工具和方法之前，我们先来聊聊为什么程序会慢。一个程序主要在三个方面消耗资源： CPU时间 - 计算太多、算法效率低 内存使用 - 内存泄漏、频繁申请释放内存 I/O操作 - 文件读写、网络通信太频繁 今天我们主要聚焦C…...
【开题报告+论文+源码】基于SpringBoot的智能安全与急救知识科普系统设计与实现
项目背景与意义 在全球范围内，安全与急救知识的普及已成为提升公众安全素养、减少意外伤害发生率、提高突发事件应对能力的重要举措。尤其是在当今社会，人们面临的生活、工作环境日益复杂，交通事故、火灾、溺水、突发疾病等各种意外事件的发生…...
Linux shift 命令使用详解
简介 在 Bash 脚本中，shift 命令用于将命令行参数向左移动，有效地丢弃第一个参数并将其他参数向下移动。 基础语法 shift [N]N（可选）→ 要移动的位置数。默认值为 1 示例用法 移动参数 #!/bin/bash echo "Before shift…...
【C++网络编程】第5篇：UDP与广播通信
一、UDP协议核心特性 1. UDP vs TCP 特性 UDPTCP连接方式无连接面向连接（三次握手）可靠性不保证数据到达或顺序可靠传输（超时重传、顺序控制）传输效率低延迟，高吞吐相对较低（因握手和确认机制&…...
C++11QT复习 （五）
文章目录 **Day6-2 成员访问运算符重载（2025.03.25）****1. 复习****2. 成员访问运算符重载****2.1 箭头运算符 (->) 重载****(1) 语法** **2.2 解引用运算符 (*) 重载****(1) 语法** **3. 代码分析****3.1 代码结构****3.2 代码解析****(1) Data 类**…...
Python项目-基于Python的网络爬虫与数据可视化系统
1. 项目简介 在当今数据驱动的时代，网络爬虫和数据可视化已成为获取、分析和展示信息的重要工具。本文将详细介绍如何使用Python构建一个完整的网络爬虫与数据可视化系统，该系统能够自动从互联网收集数据，进行处理分析，并通过直观…...
SpringCloud Zuul 使用教程
SpringCloud Zuul 使用教程 目录 Zuul 简介环境准备搭建 Zuul 网关 • 3.1 Maven 依赖 • 3.2 配置文件 • 3.3 启动类注解基本路由配置 • 4.1 简单路由 • 4.2 基于路径的路由 • 4.3 基于服务的路由Zuul 高级配置 • 5.1 过滤器配置 • 5.2 限流与熔断 • 5.3 负载均衡 •…...
介绍一款基于MinerU的PDF翻译工具
一。简介 Fast pdf translate是一款pdf翻译软件，基于MinerU实现pdf转markdown的功能，接着对markdown进行分割， 送给大模型翻译，最后组装翻译结果并由pypandoc生成结果pdf。 git地址： https://github.com/kv1830/fast…...
轻量级TLS反向代理工具TLS-reverse-proxy：打造安全通信桥梁
在数字化浪潮席卷全球的今天，数据隐私与传输安全已成为企业及个人的核心关切。TLS（传输层安全协议）作为互联网通信的"隐形卫士"，承担着保护数据在传输过程中不被窃取或篡改的重要使命。然而，对于许多传统服务…...
SQL问题分析与诊断（8）——前提
8.1. 前提 与其他关系库类似，SQL Server中，当我们对存在性能问题的SQL语句进行分析和诊断时，除了获取该SQL语句本身外，还需要获取SQL语句相应的查询计划及其相关的数据环境。这里，所谓数据环境，具体是指SQ…...
关于cmd中出现无法识别某某指令的问题
今天来解决以下这个比较常见的问题，安装各种软件都可能会发生，一般是安装时没勾选注册环境变量，导致cmd无法识别该指令。例如mysql，git等，一般初学者可能不太清楚。 解决这类问题最主要的是了解环境变量的概念&#x…...
如何处理不同输入类型（例如邮箱、电话号码）的验证？
处理不同输入类型（如邮箱、电话号码）的验证可以通过多种方法实现，包括使用 HTML5 内置验证、JavaScript/jQuery 自定义验证和正则表达式。以下是一些常用的验证方法和示例。 1. 使用 HTML5 内置验证 HTML5 提供了一些内置的输入类型，可以自动处理基本的验证。 示例 <…...
Redis集群哨兵相关面试题
目录 1.Redis 主从复制的实现原理是什么? 详解 补充增量同步 replication buffer repl backlog buffer 2.Redis 主从复制的常见拓扑结构有哪些? 3.Redis 复制延迟的常见原因有哪些? 4.Redis 的哨兵机制是什么? 主观下线和客观下线 哨兵leader如何选出来的&#x…...
【CXX-Qt】4.1 extern “RustQt“
QObjects Properties Methods Signals #[cxx_qt::bridge] mod ffi {extern "RustQt" {} }extern “RustQt” 部分是 CXX-Qt 桥接的核心，用于声明 Rust 类型和签名，使其可用于 Qt 和 C。 CXX-Qt 代码生成器使用你的 extern “RustQt” 部…...
当 0 编程基础，用 ChatGPT 和 Cursor 开发同一应用时… ｜AI 开发初体验
求人不如求己。 事情是这样的，前段时间，我看了本书，书里介绍了款应用，能计算财富自由价格，还能制定退休计划。 结果，我迫不及待去下载这个应用时，发现这应用功能残缺，完全不可用。 …...
如何排查C++程序的CPU占用过高的问题
文章目录 可能的原因程序设计的BUG系统资源问题恶意软件硬件问题 通常步骤一个简单的问题代码在windows平台上如何排查Windows Process ExplorerWinDBG 在Linux平台如何排查使用TOP GDBPerf 可能的原因 程序设计的BUG 有死循环低效算法与数据结构滥用自旋锁频繁的系统调用&a…...
数据库练习
完善t_hero表 -- 添加作者字段 alter table t_hero add author varchar(100);-- 更新数据update t_hero set author "曹雪芹" where id 1; update t_hero set author "曹雪芹" where id 2; update t_hero set author "曹雪芹" where id…...
nodejs-原型污染链
还是老规矩，边写边学，先分享两篇文章 深入理解 JavaScript Prototype 污染攻击 | 离别歌 《JavaScript百炼成仙》 全书知识点整理-CSDN博客 Ctfshow web入门 nodejs篇 web334-web344_web334 ctfshow-CSDN博客 334-js审计 var express require(expr…...
无人机与AI技术结合的突破性应用场景
1. 自主导航与动态避障 技术栈：SLAM 强化学习 (PPO算法) 代码示例（Python PyTorch）： import torch class DronePPO(torch.nn.Module):def __init__(self):super().__init__()self.actor torch.nn.Sequential(torch.nn.Linear…...
jsBridge在vue中使用
创建jsBridge.js /* eslint-disable */ function connectWebViewJavascriptBridge (callback) {if (window.WebViewJavascriptBridge) {callback(window.WebViewJavascriptBridge)} else {document.addEventListener(WebViewJavascriptBridgeReady, function () { callback(wi…...
Windows下docker使用教程
docker安装 镜像制作镜像加载容器创建更新镜像导出镜像 Windows10安装dockerdocker image制作docker 镜像加载docker 容器创建更新imageimage 导出为.tar文件 #以Windows10 、11为例 linux和Windows区别在于docker安装的程序是哪个操作系统的，后面的内容其实不变 …...
iOS：GCD信号量、同步、异步的使用方法
信号量的详细用法，可以用此方法进行队列管理 -(void)dispatchSignal{//crate的value表示，最多几个资源可访问dispatch_semaphore_t semaphore dispatch_semaphore_create(3);dispatch_queue_t quene dispatch_get_global_queue(DISPATCH_QUEUE_PRIORI…...
Nginx相关漏洞解析
一、CRLF注入漏洞 原理：Nginx将传入的url进行解码，对其中的%0a%0d替换成换行符，导致后面的数据注入至头部，造成CRLF 注入漏洞 1、开环境 2、访问网站，并抓包 3、构造请求头 %0ASet-cookie:JSPSESSID%3D1 这样就可以…...
SpringCloud构建一个服务步骤
Spring Cloud是一个用于构建分布式系统的开源框架，可以帮助开发者快速构建各种云原生应用。下面是一个简单的步骤，展示如何使用Spring Cloud构建一个服务： 创建一个Spring Boot项目：首先需要创建一个Spring Boot项目作为基础。可以…...
MySQL中怎么分析性能？
MySQL中主要有4种方式可以分析数据库性能，分别是慢查询日志，profile，Com_xxx和explain。 慢查询日志 先用下面命令查询慢查询日志是否开启， show variables like slow_query_log;# 一般默认都是以下结果 ---------------------…...
MinGW与使用VScode写C语言适配
压缩包 通过网盘分享的文件：MinGW.zip 链接: https://pan.baidu.com/s/1QB-Zkuk2lCIZuVSHc-5T6A 提取码: 2c2q 需要下载的插件 1.翻译 找到VScode页面，从上数第4个，点击扩展（以下通此） 搜索---Chinese--点击---安装--o…...
k8s存储介绍（五）PV与PVC
在 Kubernetes（k8s）中，持久化存储（Persistent Storage）是一个非常重要的概念，因为 Pod 本身是无状态的，重启后会丢失数据。为了支持有状态应用，Kubernetes 提供了持久化存储的机制&a…...
LangChain开发（五）消息管理与聊天历史存储
文章目录 消息存储在内存使用单参数session_id配置会话唯一键 消息持久化到redis安装redis依赖安装redis调用聊天接口，看Redis是否存储历史记录 裁剪消息总结记忆源码地址参考资料 消息存储在内存 我们展示一个简单的示例，其中聊天历史保存在内存中&…...
HTML 表单处理进阶：验证与提交机制的学习心得与进度（一）
引言 在前端开发的广袤领域中，HTML 表单处理堪称基石般的存在，是构建交互性 Web 应用不可或缺的关键环节。从日常频繁使用的登录注册表单，到功能多样的搜索栏、反馈表单，HTML 表单如同桥梁，紧密连接着用户与 Web 应用…...
【文献25/03/26】Hyperspectral Image Transformer Classification Networks
高光谱图像Transformer分类网络 Hyperspectral Image Transformer Classification Networks | IEEE Journals & Magazine | IEEE Xplore 摘要 高光谱图像（HSI）分类是地球观测任务中的一项重要工作。 卷积神经网络（CNN）凭借…...
数字转换（c++）
【题目描述】 如果一个数 xx 的约数和 yy （不包括他本身）比他本身小，那么 xx 可以变成 yy ，yy 也可以变成 xx 。例如 44 可以变为 33 ，11 可以变为 77 。限定所有数字变换在不超过 nn 的正整数范围内进行，…...
WPF ContentPresenter详解2
ContentPresenter与ContentControl的区别 ContentControl 和 ContentPresenter 是 WPF 中两个相关的控件，但它们在用途和功能上有一些关键的区别。理解这两者的区别和联系有助于更好地设计和开发用户界面。 1. 类层次结构 ContentControl：位于 WPF 控件…...
【git】认识git的本地仓库
1.创建本地仓库 git init2. 配置本地仓库 git config user.name xxx git config user.email xxx3. 认识本地仓库 创建完本地仓库后，目录下会有一个.git文件，这个就是本地仓库 而创建本地仓库的目录叫做工作区，我们不能对.git文件进行任何手…...
正则表达式基本语法和Java中的简单使用
先来个例子 public static final Pattern CHINESE_PATTERN Pattern.compile("[\\u4e00-\\u9fa5]"); / 检测字符串是否包含汉字 String text "Hello 世界"; boolean hasChinese CHINESE_PATTERN.matcher(text).find(); // 返回 true// 提取所有汉字 Mat…...
【大模型】什么是循环神经网络（RNNs）
在人工智能（AI）的世界里，**循环神经网络（Recurrent Neural Networks, RNNs）**是一种非常强大的工具，特别适合处理序列数据。无论是语言、时间序列还是音乐，RNNs都能帮助我们理解和预测这些数据的…...
Leetcode 交错字符串
java solution class Solution {public boolean isInterleave(String s1, String s2, String s3) {//首先获取这三个字符串的长度int m s1.length();int n s2.length();int l s3.length();if(m n ! l) return false;//创建dp数组,dp[i][j]其含义是s3的前ij个字符是否可以由…...
Vue动态绑定：文本框、单选按钮、下拉列表、多选按钮
Vue 指令系列文章： 《Vue插值：双大括号标签、v-text、v-html、v-bind 指令》 《Vue指令：v-cloak、v-once、v-pre 指令》 《Vue条件判断：v-if、v-else、v-else-if、v-show 指令》 《Vue循环遍历：v-for 指令》 《Vue事件处理：v-on 指令》 《Vue表单元素绑定：v-model 指令》…...
MySQL - 数据库基础操作
SQL语句 结构化查询语言(Structured Query Language)，在关系型数据库上执行数据操作、数据检索以及数据维护的标准语言。 分类 DDL 数据定义语言(Data Definition Language)，定义对数据库对象(库、表、列、索引)的操作。 DML 数据操作语言(Data Manip…...
从入门到精通：SQL注入防御与攻防实战——红队如何突破，蓝队如何应对！
引言：为什么SQL注入攻击依然如此强大？ SQL注入（SQL Injection）是最古老且最常见的Web应用漏洞之一。尽管很多公司和组织都已经采取了WAF、防火墙、数据库隔离等防护措施，但SQL注入依然在许多情况下能够突破防线&#…...
关于优麒麟ukylin如何更换清华源以及ubuntu24.04安装gcc-i686-linux-gnu找不到包的问题
打算把这个文章当成一个调试Linux bug的汇总，会持续更新 1、关于优麒麟ukylin如何更换清华源 （1）首先打开命令行，切换root权限 su root 输入密码 如果第一次使用ubuntu会提示密码不正确，输入 sudo passwd root …...