深入浅出循环神经网络（RNN）：原理、应用与实战
1、引言
在深度学习领域，循环神经网络（Recurrent Neural Network, RNN）是一种专门用于处理**序列数据**的神经网络架构。与传统的前馈神经网络不同，RNN 具有**记忆能力**，能够捕捉数据中的时间依赖性，广泛应用于自然语言处理（NLP）、语音识别、时间序列预测等任务。
2、原理
2.1 为什么需要 RNN？
传统神经网络（如 MLP、CNN）假设输入数据是独立同分布的，但现实中的许多数据（如文本、语音、股票价格）是序列化的，前后数据之间存在依赖关系。RNN 通过引入‘循环连接’，使网络能够记住历史信息。
2.2 RNN 的结构
RNN 的核心思想是—隐藏状态（Hidden State），它在每个时间步更新并传递信息。其数学表达为：
其中：
2.3 RNN 的局限性
- 梯度消失/爆炸问题：长序列训练时，梯度可能指数级衰减或增长，导致模型难以学习长期依赖。
- 短期记忆问题：标准 RNN 难以记住较早期的信息。
3. 改良
3.1 LSTM（长短期记忆网络）
LSTM 通过引入**门控机制**（输入门、遗忘门、输出门）解决梯度消失问题：
4. 实战：用 PyTorch 实现 RNN 进行时间序列预测
#5.1 数据准备import torch
import torch.nn as nn
import numpy as np
import matplotlib.pyplot as plt# 生成正弦波数据
time = np.arange(0, 100, 0.1)
data = np.sin(time) + np.random.normal(0, 0.1, len(time))# 构造输入序列（前10个点预测第11个点）
seq_length = 10
X, y = [], []
for i in range(len(data) - seq_length):X.append(data[i:i+seq_length])y.append(data[i+seq_length])
X = torch.FloatTensor(np.array(X))
y = torch.FloatTensor(np.array(y))#5.2 定义 RNN 模型class RNN(nn.Module):def __init__(self, input_size, hidden_size, output_size):super(RNN, self).__init__()self.rnn = nn.RNN(input_size, hidden_size, batch_first=True)self.fc = nn.Linear(hidden_size, output_size)def forward(self, x):out, _ = self.rnn(x) # out: (batch, seq_len, hidden_size)out = self.fc(out[:, -1, :]) # 取最后一个时间步的输出return outmodel = RNN(input_size=1, hidden_size=32, output_size=1)
criterion = nn.MSELoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)#5.3 训练与预测# 训练
epochs = 100
for epoch in range(epochs):optimizer.zero_grad()outputs = model(X.unsqueeze(-1))loss = criterion(outputs.squeeze(), y)loss.backward()optimizer.step()if (epoch+1) % 10 == 0:print(f'Epoch {epoch+1}, Loss: {loss.item():.4f}')# 预测
with torch.no_grad():pred = model(X.unsqueeze(-1))plt.plot(time[seq_length:], y.numpy(), label='True')plt.plot(time[seq_length:], pred.numpy(), label='Predicted')plt.legend()plt.show()
结果展示：
5. 总结
- RNN 是处理序列数据的强大工具，但存在梯度消失问题。
- LSTM通过门控机制改进长期依赖学习。
- RNN 广泛应用于 NLP、语音识别、自然语言处理等领域。
相关文章：
深入浅出循环神经网络（RNN）：原理、应用与实战
1、引言 在深度学习领域，循环神经网络（Recurrent Neural Network, RNN）是一种专门用于处理**序列数据**的神经网络架构。与传统的前馈神经网络不同，RNN 具有**记忆能力**，能够捕捉数据中的时间依赖性，广泛应…...
【Java】打印运行环境中某个类引用的jar版本路径
背景 正式环境出现jar版本不匹配问题，不知道正式环境用的哪个jar版本。通过一下可以打印出类调用的jar // 获取 POIFSFileSystem 类的加载器并打印其来源路径 ClassLoader classloaderPOIFS org.apache.poi.poifs.filesystem.POIFSFileSystem.class.getClassLoade…...
【效率提升】Vibe Coding时代如何正确使用输入法：自定义短语实现Prompt快捷输入
AI时代的效率神器：用搜狗拼音自定义短语实现Prompt快捷输入 在日益依赖AI工具的今天，我们经常需要输入各种复杂的prompt来指导AI完成特定任务。有些同学完全忽视了这一层工作的意义，实际上不同质量的prompt对模型的表现影响是巨大的。&#…...
)
C# 类的基本概念(从类的内部访问成员和从类的外部访问成员)
本章内容： 类的概述 程序和类：一个简单的示例 声明类 类成员 创建变量和类的实例 为数据分配内存 实例成员 访问修饰符 从类的内部访问成员 从类的外部访问成员 综合应用 从类的内部访问成员 如前所述，类的成员仅用其他类成员的名称就可以访…...
端到端观测分析：从前端负载均衡到后端服务
前言 我们在做系统运维保障的时候，关注从前端负载均衡到后端服务的流量情况是很有必要的，可以了解每个后端服务实例接收的流量大小，这有助于确定资源分配是否合理，能够帮助找出后端服务中的性能瓶颈。同时，当系统出现…...
Axure疑难杂症：全局变量跨页面赋值、中继器交互（玩转全局变量）
亲爱的小伙伴，在您浏览之前，烦请关注一下，在此深表感谢！ Axure产品经理精品视频课已登录CSDN可点击学习https://edu.csdn.net/course/detail/40420 课程主题：全局变量高级交互 主要内容：数据跨页面传递、赋值、中继器交互 应用场景：页面间值的传递、赋值 案例展示：…...
css 数字从0开始增加的动画效果
项目场景： 提示：这里简述项目相关背景： 在有些时候比如在做C端项目的时候，页面一般需要一些炫酷效果，比如数字会从小值自动加到数据返回的值 css 数字从0开始增加的动画效果 分析： 提示：这里填…...
【MongoDB篇】MongoDB的索引操作！
目录 引言第一节：天生的“索引小能手”——_id 索引 🆔第二节：自己动手，丰衣足食——创建索引 🔑🛠️第三节：索引的“类型”——因“材”施“索”！🌳🔑第四节…...
写劳动节前的 跨系统 文件传输
功能说明： 协议隐身：流量伪装为HTTPS图片传输 动态混淆：每个数据包添加随机填充 军用级擦除：临时文件三次覆写清除 抗分析：随机传输时间间隔和端口跳跃 隐蔽通道：ALTSHIFTC触发隐藏控制台 网络架构建…...
腾讯元宝桌面客户端：基于Tauri的开源技术解析
2025年3月，腾讯元宝宣布上线电脑客户端版本，支持Windows和macOS系统。作为腾讯旗下的AI助手产品，腾讯元宝桌面端采用了Tauri而非传统的Electron作为其跨平台开发框架，这一技术选择体现了腾讯对应用性能、安全性和用户体验的重视。本文将依据腾讯元宝桌面客户端的用户规则中…...
重塑驾乘体验！哈曼Ready系列引爆「人车交互革命」
AI定义汽车趋势下，AI加速赋能整车辅助驾驶、智能座舱、智能底盘等各域。 以智能座舱为例，AI大模型的快速应用与迭代，推动智能座舱加速迈入“多模交互”阶段，融合视觉、听觉、触觉等感知技术，智能座舱向着终极形态演进…...
第二章-科学计算库NumPy
第二章-科学计算库NumPy Numpy 作为高性能科学计算和数据分析的基础包,是其他重要数据分析工具的基础, 掌握 NumPy 的功能及其用法, 将有助于后续其他数据分析工具的学习. 2.1 认识 NumPy 数组对象 NumPy 中最重要的一个特点就是其 N 维数组对象, 即 ndarray(别名 array) 对象…...
3.2goweb框架GORM
GORM 是 Go 语言中功能强大的 ORM（对象关系映射）框架，支持 MySQL、PostgreSQL、SQLite、SQL Server 等主流数据库。以下是 GORM 的核心概念和用法详解： 一、基础入门 1. 安装 go get -u gorm.io/gorm go get -u gorm.io…...
KUKA机器人不同的用户权限详细介绍
对于KUKA机器人，主菜单里有一个“用户组”的登录，不同的用户组对应不同的权限。 一、KUKA示教器正常开机后显示以下界面，对于8.5及以上的系统，增加了快捷登录用户组的符号 ，直接点击即可打开。在 smartHMI 上&…...
AI对IT行业的重塑：挑战与机遇并存的技术革命
一、必要性：AI成为IT行业的基础设施 在云计算、大数据和物联网构成的数字生态中，AI技术已成为IT行业的"水电煤"。以微软Azure为例，其AI云服务支撑着全球超过85%的《财富》500强企业，通过机器学习模型自动优化服务器集群…...
利用IEEE异常机制优化Fortran浮点数计算
利用IEEE异常机制优化Fortran浮点数计算 在Fortran程序中，IEEE浮点异常机制可以帮助你检测和优化浮点数计算，提高数值稳定性和程序健壮性。以下是几种利用IEEE异常机制优化浮点数计算的方法： 1. 启用和检测IEEE异常 现代Fortran࿰…...
构建网页版IPFS去中心化网盘
前言：我把它命名为无限网盘 Unlimited network disks（ULND），可以实现简单的去中心化存储，其实实现起来并不难，还是依靠强大的IPFS，跟着我一步一步做就可以了。 第一步：准备开发环境…...
【solidity基础】一文说清楚合约函数的大小事
在 Solidity 里，函数是合约的关键构成部分，用于执行特定任务或操作的代码块，可以包含逻辑、访问状态变量、进行计算，并且可以接受参数和返回值。 但是solidity 的函数与其他语言不太一样，经常会有同学搞混，这里开一篇文章完整介绍一下 solidity 函数的用法。 1. 函数定…...
用Python构建自动驾驶传感器融合算法：从理论到实践
用Python构建自动驾驶传感器融合算法：从理论到实践 随着自动驾驶技术的飞速发展，传感器在自动驾驶系统中的作用愈发重要。传感器不仅是车辆感知外部环境的“眼睛”，它们提供的信息也是自动驾驶决策系统的基础。然而，单一传感器的感知能力是有限的。为了提升自动驾驶系统的…...
PLC与工业电脑：有什么区别？
随着工业部门的快速发展，自动化已经从奢侈品转变为绝对必需品。世界各地的工业越来越多地采用工业自动化来提高效率、提高精度并最大限度地减少停机时间。这场自动化革命的核心是两项关键技术：可编程逻辑控制器（PLC）和电脑&#x…...
机器学习：在虚拟环境中使用 Jupyter Lab
机器学习：在虚拟环境中使用 Jupyter Lab 第一步：激活虚拟环境 打开终端（CMD/PowerShell）并执行： $cmd #激活虚拟环境 $conda activate D:\conda_envs\mll_env 激活后，终端提示符前会显示环境名称&…...
Arduino项目实战与编程技术详解
一、智能避障小车：超声波传感器与PWM电机控制 1.1 硬件需求与工作原理 智能避障小车的核心在于超声波传感器与电机驱动模块的协同工作。超声波传感器（HC-SR04）通过发射高频声波并接收回波来测量距离，而L298N电机驱动模块则负责控制两个直流电机的转向与速度。 1.1.1 超声…...
AI数字人：人类身份与意识的终极思考（10/10）
文章摘要：AI数字人技术正在引发从"像素复刻"到"意识投射"的范式革命，多模态交互、神经辐射场等技术突破推动数字人从工具属性迈向虚拟主体。其发展伴随身份认同危机、伦理困境，促使人类重新思考自我认知与"人之为人…...
【单例模式】简介
目录 概念理解使用场景优缺点实现方式 概念理解 单例模式要保证一个类在整个系统运行期间，无论创建多少次该类的对象，始终只会有一个实例存在。就像操作系统中的任务管理器，无论何时何地调用它，都是同一个任务管理器在工作&#…...
安凯微以创新之芯，赋能万物智能互联新时代
在全球半导体产业步入深度调整期的当下，安凯微用一份“技术浓度”远超“财务数字”的年报，向市场传递出其作为物联网智能硬件核心SoC芯片领军者的战略定力。面对行业短期波动，公司选择以技术纵深突破与生态价值重构为锚点，在逆势中…...
TIME_WAIT状态+UDP概念及模拟实现服务器和客户端收发数据
目录 一、TIME_WAIT状态存在的原因 二、TIME_WAIT状态存在的意义 三、TIME_WAIT状态的作用 四、UDP的基本概念 4.1 概念 4.2 特点 五、模拟实现UDP服务器和客户端收发数据 5.1 服务器udpser 5.2 客户端udpcil 一、TIME_WAIT状态存在的原因 1.可靠的终止TCP连接。 2.…...
高并发内存池（五）：性能测试与性能优化
前言 在前几期的实现中，我们完成了tcmalloc基础的内存管理功能，但还存在两个关键问题： 未处理超过256KB的大内存申请。 前期测试覆盖不足，导致多线程场景下隐藏了一些bug。 本文将修复这些问题，并实现三个目标&…...
景联文科技牵头起草的《信息技术 可扩展的生物特征识别数据交换格式 第4部分：指纹图像数据》国家标准正式发布
2025年3月28日，由景联文科技作为第一起草单位主导编制的国家标准GB/T 45284.4-2025 《信息技术 可扩展的生物特征识别数据交换格式 第4部分：指纹图像数据》正式获批发布，将于2025年10月1日开始实施。该标准的制定标志着我国生物特征识别领域标…...
完美解决 mobile-ffmpeg Not overwriting - exiting
在使用ffmpeg库 ，有pcm转换到 aac的过程中报错 mobile-ffmpeg Not overwriting - exiting终于在网上翻到，在output 输出文件的地方加 -y, 重复覆盖的意思，完美解决。...
4：QT联合HALCON编程—机器人二次程序抓取开发（九点标定）
判断文件是否存在 //判断文件在不在 int HandEyeCalib::AnsysFileExists(QString FileAddr) {QFile File1(FileAddr);if(!File1.exists()){QMessageBox::warning(this,QString::fromLocal8Bit("提示"),FileAddrQString::fromLocal8Bit("文件不存在"));retu…...
C语言之操作符
目录 1. 操作符的分类 2. 移位操作符 2.1 左移操作符 << 2.2 右移操作符 >> 3. 位操作符 3.1 按位与 & 3.2 按位或 | 3.3 按位异或 ^ 3.4 按位取反 ~ 3.5 例题 3.5.1 按位异或 ^ 拓展公式 3.5.2 不能创建临时变量（第三个变量ÿ…...
【优选算法 | 前缀和】前缀和算法：高效解决区间求和问题的关键
算法相关知识点可以通过点击以下链接进行学习一起加油！双指针滑动窗口二分查找 在本篇文章中，我们将深入解析前缀和算法的原理。从基础概念到实际应用，带你了解如何通过前缀和高效解决数组求和、区间查询等问题。无论你是刚接触算法的新手&am…...
『深夜_MySQL』详解数据库 探索数据库是如何存储的
1. 数据库基础 1.1 什么是数据库 存储数据用文件就可以了，那为什么还要弄个数据库？ 一般的文件缺失提供了数据的存储功能，但是文件并没有提供非常好的数据管理能力（用户角度，内容方面） 文件保存数据有以…...
Microsoft Entra ID 免费版管理云资源详解
Microsoft Entra ID（原 Azure AD）免费版为企业提供了基础的身份管理功能，适合小型团队或预算有限的组织。以下从功能解析到实战配置，全面展示如何利用免费版高效管理云资源。 1. 免费版核心功能与限制 1.1 功能概览 功能免费版支持情况基础用户与组管理✔️ 支持创建、删除…...
k8s -hpa
hpa定义弹性自动伸缩 1、横向伸缩，当定义的cpu、mem指标达到hpa值时，会触发pods伸展 2、安装metrics-server 收集pods的cpu。mem信息供hpa参照 安装helm curl -fsSl -o get_helm.sh https://raw.githubusercontent.com/helm/helm/main/scripts/get-helm-3 用helm安装metr…...
Web应用开发指南
一、引言 随着互联网的迅猛发展，Web应用已深度融入日常生活的各个方面。为满足用户对性能、交互与可维护性的日益增长的需求，开发者需要一整套高效、系统化的解决方案。在此背景下，前端框架应运而生。不同于仅提供UI组件的工具库，…...
Vue3 + TypeScript 实现 PC 端鼠标横向拖动滚动
功能说明 拖动功能： 鼠标按下时记录初始位置和滚动位置拖动过程中计算移动距离并更新滚动位置松开鼠标后根据速度实现惯性滚动 滚动控制： 支持鼠标滚轮横向滚动（通过 wheel 事件）自动边界检测防止滚动超出内容…...
MyBatis的SQL映射文件中，`#`和`$`符号的区别
在MyBatis的SQL映射文件中，#和$符号用于处理SQL语句中的参数替换，但它们的工作方式和使用场景有所不同。 #{} 符号 预编译参数：#{} 被用来作为预编译SQL语句的占位符。这意味着MyBatis会将你传入的参数设置为PreparedStatement的参数，从而防止SQL注入攻击，并允许MyBatis对…...
Python----卷积神经网络（池化为什么能增强特征）
一、什么是池化 池化（Pooling）是卷积神经网络（CNN）中的一种关键操作，通常位于卷积层之后，用于对特征图（Feature Map）进行下采样（Downsampling）。其核心目的是…...
React Native 从零开始完整教程（环境配置 → 国内镜像加速 → 运行项目）
React Native 从零开始完整教程（环境配置 → 国内镜像加速 → 运行项目） 本教程将从 环境配置 开始，到 国内镜像加速，最后成功运行 React Native 项目（Android/iOS），适合新手和遇到网络问题的开…...
SNR8016语音模块详解（STM32）
目录 一、介绍 二、传感器原理 1.原理图 2.引脚描述 三、程序设计 main文件 usart.h文件 usart.c文件 四、实验效果 五、资料获取 项目分享 一、介绍 SNR8016语音模块是智纳捷科技生产的一种离线语音识别模块，设计适合用于DIY领域，开放用户设…...
驱动开发系列54 - Linux Graphics QXL显卡驱动代码分析（一）设备初始化
一：概述 QXL 是QEMU支持的一种虚拟显卡，用于虚拟化环境中的图形加速，旨在提高虚拟机的图形显示和远程桌面的用户体验；QEMU 也称 Quick Emulator，快速仿真器，是一个开源通用的仿真和虚拟化工具，可…...
通过IP计算分析归属地
在产品中可能存在不同客户端，请求同一个服务端接口的场景。 例如小程序和App或者浏览器中，如果需要对请求的归属地进行分析，前提是需要先获取请求所在的国家或城市，这种定位通常需要主动授权，而用户一般是不愿意提供的…...
)
【网络原理】从零开始深入理解HTTP的报文格式(二)
本篇博客给大家带来的是网络HTTP协议的知识点, 续上篇文章,接着介绍HTTP的报文格式. 🐎文章专栏: JavaEE初阶 🚀若有问题 评论区见 ❤ 欢迎大家点赞 评论 收藏 分享 如果你不知道分享给谁,那就分享给薯条. 你们的支持是我不断创作的动力 . 王子,公主请阅…...
【前缀和】二维前缀和（模板题）
DP35 【模板】二维前缀和 DP35 【模板】二维前缀和 给你一个 n 行 m 列的矩阵 A ，下标从 1 开始，接下来有 q 次查询，每次查询输入 4 个参数 x1 , y1 , x2 , y2。 请输出以 (x1, y1) 为左上角，(x2,y2) 为右下角的子矩阵的和。 输入描述： 第一行包含三个整数 …...
【开源工具】Python打造智能IP监控系统：邮件告警+可视化界面+配置持久化
🌐【开源工具】Python打造智能IP监控系统：邮件告警可视化界面配置持久化 🌈 个人主页：创客白泽 - CSDN博客 🔥 系列专栏：🐍《Python开源项目实战》 💡 热爱不止于代码，热…...
kotlin 过滤 filter 函数的作用和使用场景
1. filter 函数的作用 filter 是 Kotlin 集合操作中的一个高阶函数，用于根据指定条件从集合中筛选出符合条件的元素。 作用：遍历集合中的每个元素，并通过给定的 lambda 表达式判断是否保留该元素。返回值：一个新的集合ÿ…...
Java泛型（补档）
核心概念 Java 泛型是 Java SE 1.5 引入的一项重要特性，它的核心思想是 参数化类型（Parameterized Types），即通过将数据类型作为参数传递给类、接口或方法，使代码能够灵活地处理多种类型，同时保证类型安全性…...
C语言发展史：从Unix起源到现代标准演进
C语言发展史：从Unix起源到现代标准演进 C语言的诞生与早期发展 C语言的起源可以追溯到上世纪70年代初期，但其真正的萌芽始于1969年的夏天。在计算机发展史上，这是一个具有划时代意义的时刻。 当时，Ken Thompson和Dennis Ritchi…...
nginx 代理时怎么更改 Remote Address 请求头
今天工作中遇到用 localhost 访问网站能访问后台 api，但是用本机IP地址后就拒绝访问，我怀疑是后台获取 Remote Address 然后设置白名单了只能 localhost 访问。 想用 nginx 更改 Remote Address server {listen 8058;server_name localhost;loca…...