当前位置：首页 > news >正文

深度学习四大核心架构：神经网络（NN）、卷积神经网络（CNN）、循环神经网络（RNN）与Transformer全概述

news 来源：原创 2025/7/3 20:46:08

📂 深度学习四大核心架构

🌰 知识点概述

🧠 核心区别对比表

⚡ 生活化案例理解

🔑 选型指南

📂 深度学习四大核心架构

第一篇：神经网络基础（NN）

🌰 知识点概述

🧠 核心区别对比表

特性	NN（全连接网络）	CNN（卷积网络）	RNN（循环网络）	Transformer
输入类型	固定长度的结构化数据（如表格）	网格状数据（图像/音频）	时序数据（文本/时间序列）	长序列数据（文本/语音）
核心结构	全连接层	卷积层 + 池化层	循环单元（LSTM/GRU）	自注意力机制 + 位置编码
参数共享	❌ 无	✅ 卷积核共享（空间局部性）	✅ 循环权重共享（时序共享）	✅ 注意力权重动态分配
时序依赖处理	❌ 忽略时序关系	❌ 仅局部空间关系	✅ 顺序处理（短期记忆依赖）	✅ 全局依赖（并行计算）
典型应用	房价预测/简单分类	图像分类/目标检测	文本生成/股票预测	机器翻译/文本摘要（如BERT）
训练效率	低效（参数爆炸）	高效（参数共享）	低效（顺序计算）	高效（并行计算）但内存消耗大
长序列处理	❌ 不支持	❌ 不支持	❌ 梯度消失/遗忘早期信息	✅ 自注意力直接关联任意位置
关键创新	基础神经元模型	局部感知/权重共享	时间步状态传递	多头注意力 + 位置编码

⚡ 生活化案例理解

NN
→ 类比：盲人摸象，每个神经元独立感知全局特征
→ 局限：输入图像需展平为向量，丢失空间信息（如将28x28图片变成784维向量）
CNN
→ 类比：人类视觉系统，先识别边缘→形状→物体
→ 实战：用3x3卷积核扫描猫的图片，提取耳朵、胡须等局部特征
RNN
→ 类比：阅读理解，需记住前文才能理解后文
→ 痛点：输入句子“The cat sat on the mat”，到第6个单词时可能已遗忘“cat”
Transformer
→ 类比：团队协作，每个单词直接关注全局上下文
→ 优势：处理句子“I arrived at the bank after crossing the river”时，“bank”可同时关注“river”（消除歧义）

🔑 选型指南

场景	推荐模型	理由
表格数据分类/回归	NN	结构简单，无需复杂特征提取
图像识别/目标检测	CNN	高效捕捉空间局部特征
短文本生成/时间序列预测	RNN（LSTM/GRU）	处理简单时序依赖
长文本翻译/文档摘要	Transformer	捕捉长距离依赖，并行计算高效
多模态数据（如图文匹配）	Transformer+CNN	联合处理文本和图像特征

深度学习四大核心架构：神经网络（NN）、卷积神经网络（CNN）、循环神经网络（RNN）与Transformer全概述

目录 📂 深度学习四大核心架构 🌰 知识点概述 🧠 核心区别对比表 ⚡ 生活化案例理解 🔑 选型指南 📂 深度学习四大核心架构第一篇： 神经网络基础（NN） 🌰 知识点概述…...

编程日记 2025/7/3 20:46:08

springcloud 整合 Redis_Redisson

springcloud 整合 Redis 、Redisson Redis-x64-5.0.14.1 版本 https://blog.csdn.net/wojiubugaosuni12/article/details/134452665 https://www.123pan.com/s/8EpMjv-MTjBv.html spring cloud 整合 redis Redis 5.0.14 Springcloud 2021.0.5 Redis启动 redis-server.exe 点击…...

编程日记 2025/7/3 11:53:12

Windows模仿Mac大小写切换, 中英文切换

CapsLock 功能优化脚本部署指南部署步骤第一步：安装 AutoHotkey v2 访问 AutoHotkey v2 官网下载并安装最新版本安装时勾选 "Add Compile Script to context menus" 第二步：部署脚本直接运行 (调试推荐) 新建文本文件，粘贴…...

编程日记 2025/7/1 6:15:18

基于Spring Boot的木里风景文化管理平台的设计与实现（LW+源码+讲解）

专注于大学生项目实战开发,讲解,毕业答疑辅导，欢迎高校老师/同行前辈交流合作✌。技术范围：SpringBoot、Vue、SSM、HLMT、小程序、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、安卓app、大数据、物联网、机器学习等设计与开发。主要内容：…...

编程日记 2025/7/4 12:59:52

【银河麒麟系统常识】命令：uname -m（查看系统架构）

命令： uname -m 功能常用的 Linux/Unix 终端命令，用于显示当前系统的硬件架构； 返回返回系统的CPU架构类型，用于判断软件兼容性； 输出结果架构说明常见设备x86_64Intel/AMD 64位 CPU主流 PC、服务器aarch64ARM 64位 …...

编程日记 2025/7/4 16:11:50

网络原理-TCP/IP

网络原理学习笔记：TCP/IP 核心概念本文是我在学习网络原理时整理的笔记，主要涵盖传输层、网络层和数据链路层的核心协议和概念，特别是 TCP, UDP, IP, 和以太网。一、传输层 (Transport Layer) 传输层负责提供端到端（进程到进…...

编程日记 2025/7/1 1:14:15

【银河麒麟高级服务器操作系统】虚拟机运行数据库存储异常现象分析及处理全流程

更多银河麒麟操作系统产品及技术讨论，欢迎加入银河麒麟操作系统官方论坛 https://forum.kylinos.cn 了解更多银河麒麟操作系统全新产品，请点击访问麒麟软件产品专区：https://product.kylinos.cn 开发者专区：https://developer…...

编程日记 2025/7/1 11:22:57

AI-Sphere-Butler之如何使用腾讯云ASR语音识别服务

环境： AI-Sphere-Butler WSL2 英伟达4070ti 12G Win10 Ubuntu22.04 腾讯云ASR 问题描述： AI-Sphere-Butler之如何使用腾讯云ASR语音识别服务，本地硬件配置不高的情况，建议使用云服务商的ASR 解决方案： 1.登…...

编程日记 2025/6/28 4:09:08

Dify 0.15.3版本本地部署指南

目录背景一、单机部署机器配置最低要求二、系统Python环境安装安装需要的python依赖使用pyenv官方安装脚本安装poetry 三、中间件部署 PostgreSQL本地部署添加PG官方仓库安装pg 16 检查pg版本修改密码为dify默认创建数据库dify 安装pg vector插件修改…...

编程日记 2025/7/3 12:38:30

全书测试:《C++性能优化指南》

以下20道多选题和10道设计题， 用于本书的测试。以下哪些是C性能优化的核心策略？（多选） A) 优先优化所有代码段 B) 使用更高效的算法 C) 减少内存分配次数 D) 将所有循环展开关于字符串优化，正确的措施包括&#xff…...

编程日记 2025/6/30 12:20:15

Oracle数据库数据编程SQL＜递归函数详解＞

递归函数是一种在函数体内直接或间接调用自身的函数。这种函数通过将复杂问题分解为更小的相同问题来解决特定类型的编程任务。目录一、递归函数基本概念 1. 递归定义 2. 递归工作原理二、递归函数示例 1. 经典阶乘函数 2. 斐波那契数列 3. 计算数字位数三、递归查…...

编程日记 2025/7/1 16:06:15

Burp Suite从入门到实战之配置启动

目录 1.Burp Suite配置启动 1.1安装Burp Suite jar包 1.2JDK，JDK包含JRE（Java运行时环境） 1.2.1配置JDK11环境变量配置 1.2.2系统变量里添加JAVA_HOME编辑 1.2.3找到Path变量进行编辑添加bin 1.2.4命令行查看是否配置成功 1.3激活j…...

编程日记 2025/7/2 9:27:48

【力扣hot100题】（016）缺失的第一个正数

题目里这么多条条框框……先不按条条框框做了两下。第一个思路：你不仁我不义，先排序后遍历（时间不符题意） class Solution { public:int firstMissingPositive(vector<int>& nums) {sort(nums.begin(),nums.end());i…...

编程日记 2025/6/30 1:14:58

(undone) MIT6.824 Lecture 02 - RPC and Threads

知乎专栏：https://zhuanlan.zhihu.com/p/641105196 原视频：https://www.bilibili.com/video/BV16f4y1z7kn?spm_id_from333.788.videopod.episodes&vd_source7a1a0bc74158c6993c7355c5490fc600&p2 看知乎专栏一、Why we choose go&#xff1f…...

编程日记 2025/6/30 16:53:02

红宝书第二十一讲：详解JavaScript的模块化（CommonJS与ES Modules）

红宝书第二十一讲：详解JavaScript的模块化（CommonJS与ES Modules） 资料取自《JavaScript高级程序设计（第5版）》。查看总目录：红宝书学习大纲一、模块化的意义：分而治之模块化解决代码依赖混…...

编程日记 2025/7/2 8:44:11

输入百分比校验（数字非负数保留2位不四舍五入）

场景用于输入百分比，限制只能输入非负数，保留2位小数，且不四舍五入以下举例环境 vue2 element-ui 请自行根据实际场景使用 html部分 <el-inputv-model"item.percentage"placeholder"请输入"maxlength"5"…...

编程日记 2025/7/1 1:08:09

Python----机器学习（KNN：决策边界，决策边界计算，交叉验证步骤）

一、KNN算法简介 1.1、定义 KNN（K-Nearest Neighbor）算法是一种基于实例的学习方法，通过测量数据点之间的距离进行分类或回归分析。它是一种简单易懂的多分类技术，依赖于距离最近的邻居来推断数据点的类别或数值，为许…...

编程日记 2025/7/2 4:32:08

SpringBoot 3+ Lombok日志框架从logback改为Log4j2

r要将Spring Boot 3项目中的日志框架从Logback切换到Log4j2，并配置按日期滚动文件和控制台输出，请按照以下步骤操作： 步骤 1：排除Logback并添加Log4j2依赖在pom.xml中修改依赖： <dependencies><!-- 排除默…...

编程日记 2025/6/28 1:27:06

实战篇Redis

黑马程序员的Redis的笔记（后面补一下图片） 【黑马程序员Redis入门到实战教程，深度透析redis底层原理redis分布式锁企业解决方案黑马点评实战项目】https://www.bilibili.com/video/BV1cr4y1671t?p72&vd_source001f1c33a895eb5ed820b9a4…...

编程日记 2025/6/28 0:36:30

c++-函数增强

一、编译器对函数名的处理 1. C与C的差异 C编译器：保留原始函数名，无额外处理。例如： int add(int a, int b) { return a b; } 在汇编代码中仍为add。 C编译器：通过name mangling（名称修饰）生成唯一函数…...

编程日记 2025/7/2 1:35:19

BKA-CNN-GRU、CNN-GRU、GRU、CNN四模型多变量时序预测（Matlab）

BKA-CNN-GRU、CNN-GRU、GRU、CNN四模型多变量时序预测（Matlab） 目录 BKA-CNN-GRU、CNN-GRU、GRU、CNN四模型多变量时序预测（Matlab）预测效果基本介绍程序设计参考资料预测效果基本介绍 BKA-CNN-GRU、CNN-GRU、GRU、CNN四模型多…...

编程日记 2025/7/2 4:59:35

css基础之浮动相关学习

一、浮动基本介绍在最初，浮动是用来实现文字环绕图片效果的，现在浮动是主流的页面布局方式之一。效果/代码图片环绕代码 div {width: 600px;height: 400px;background-color: skyblue;}img {width: 200px;float: right;margin-right: 0.5em;}<…...

编程日记 2025/6/28 6:39:32

告别分库分表，时序数据库 TDengine 解锁燃气监控新可能

达成效果： 从 MySQL 迁移至 TDengine 后，设备数据自动分片，运维更简单。列式存储可减少 50% 的存储占用，单服务器即可支撑全量业务。毫秒级漏气报警响应时间控制在 500ms 以内，提升应急管理效率。新架构支持未来…...

编程日记 2025/7/2 14:40:53

1.3 斐波那契数列模型：LeetCode 746. 使用最小花费爬楼梯

动态规划解最小花费爬楼梯问题：LeetCode 746. 使用最小花费爬楼梯 1. 题目链接 LeetCode 746. 使用最小花费爬楼梯题目要求：给定一个整数数组 cost，其中 cost[i] 是从楼梯第 i 阶向上爬所需支付的费用。你可以从下标 0 或 1 的台阶开始爬&a…...

编程日记 2025/6/28 6:16:13

8.4考研408简单选择排序与堆排序知识点深度解析

考研408「简单选择排序与堆排序」知识点全解析一、简单选择排序 1.1 定义与核心思想简单选择排序（Selection Sort）是一种选择排序算法，其核心思想是： 每趟选择：从待排序序列中选择最小（或最大&#x…...

编程日记 2025/7/4 15:06:33

【个人笔记】用户注册登录思路及实现 springboot+mybatis+redis

基本思路获取验证码接口验证码操作用了com.pig4cloud.plugin的captcha-core这个库。 AccountControl的"/checkCode"接口代码，通过ArithmeticCaptcha生成一张验证码图片，通过text()函数得到验证码的答案保存到变量code，然后把图…...

编程日记 2025/7/3 1:22:55

LiteDB 数据存储与检索效率优化的最佳实践指导

一、引言在当今数字化时代，数据处理和存储变得至关重要。对于小型项目或者嵌入式系统而言，需要一种轻量级、高效且易于使用的数据库解决方案。LiteDB 作为一款嵌入式的 NoSQL 数据库，因其零配置、易于集成等特点，受到了开发者的青睐。然而，若要充分发挥其性能优势，就需…...

编程日记 2025/7/3 7:26:10

WEB安全--RCE--RCE的绕过

一、回调函数的绕过（PHP） 1.1、回调函数 1.1.1、原理： 回调函数（Callback Function）指的是将函数名或匿名函数作为参数传递给另一个函数，从而在特定条件下调用该函数。以一个常见的回调函数为例&#…...

编程日记 2025/7/3 5:05:18

uni-app:指引蒙层

组件说明指引蒙层组件：通过id标签，突出对应id中的模块；可以自定义提示词。点击任意位置关闭蒙层效果展示和使用示例切换id之后的效果：代码实现 <template><view class="guide-mask" v-if="showMask" @click="hideMask"&g…...

编程日记 2025/6/29 22:11:03

什么是CMS？常用CMS有哪些？

一、内容管理系统（Content Management System）‌ ‌什么是CMS‌：位于 Web 前端（服务器）和后端办公系统之间的软件系统，用于内容创建、编辑、审批和发布。支持文本、图片、视频、数据库等各类数字内容的管理…...

编程日记 2025/6/28 1:39:23

【Es】基础入门：开启全文搜索的大门

文章目录一、Elasticsearch 是什么二、核心概念解读索引（Index）文档（Document）映射（Mapping）分片（Shard）副本（Replica） 三、基本操作入门安…...

编程日记 2025/7/2 1:29:38

74. Linux设备树详解

一、什么是设备树 1、uboot启动内核用到zImage，imx6ull-alientek-emmc.dtb。bootz 80800000 – 83000000. 80800000 —zImage 83000000—dtb 2、设备树：设备和树。设备树(Device Tree)，将这个词分开就是“设备”和“树”，描述设…...

编程日记 2025/6/30 20:01:43

从责任链模式聊到aware接口

从责任链模式聊到aware接口责任链是什么？ 责任链模式是一种行为型设计模式，将多个对象连接成一条链，并且沿着这条链传递请求，让多个对象都有机会处理这个请求，请求会顺着链传递，直到某个对象处理它为止。…...

编程日记 2025/6/30 1:56:31

在win11 环境下新安装 WSL ubuntu + 换国内镜像源 + ssh + 桌面环境 + Pyhton 环境 + vim 设置插件安装

在win11 环境下新安装 WSL ubuntu ssh gnome 桌面环境 Pyhton 环境 vim 设置插件安装简单介绍详细流程换国内镜像源安装 ssh 桌面环境python 环境vim 设置插件安装简单介绍内容有点长，这里就先简单描述内容了。主要是快速在 Win11 搭建一个 wsl 的 linux 环…...

编程日记 2025/7/2 16:57:27

考研408-数据结构完整代码线性表的链式存储结构 - 单链表

单链表操作详解（C实现） 目录单链表尾插法创建单链表头插法创建删除指定节点按值查找按序号查找插入节点完整代码示例注意事项总结尾插法创建 #include<bits/stdc.h> using namespace std;typedef struct LNode {int data;struct LNode* next;…...

编程日记 2025/6/28 1:26:12

使用Python爬虫获取淘宝App商品详情

在电商领域，获取商品详情数据对于市场分析、竞品研究和用户体验优化至关重要。淘宝作为国内领先的电商平台，提供了丰富的商品资源。虽然淘宝App的数据获取相对复杂，但通过Python爬虫技术，我们可以高效地获取淘宝App商品的详细信息…...

编程日记 2025/6/29 23:33:47

在 VMware Workstation 17 中安装的 Ubuntu 虚拟机无法使用桥接模式

在 VMware Workstation 17 中安装的 Ubuntu 虚拟机无法使用桥接模式时，通常是由于网络配置错误、桥接适配器选择不当或主机网络环境限制导致。以下是详细的排查和解决方法：我采用第一步就解决了问题 1. 检查 VMware 桥接模式配置步骤 1：…...

编程日记 2025/7/3 4:50:42

2025前端八股文终极指南：从高频考点到降维打击的面试突围战

2025前端八股文终极指南：从高频考点到降维打击的面试突围战一、2025前端八股文核心考点重构 1.1 新型响应式系统三连问 Vue3信号式响应性： // 信号式响应性底层实现 const [count, setCount] createSignal(0) effect(() > {console.log("当…...

编程日记 2025/7/3 8:57:56

MIPS-32架构(寄存器堆，指令系统，运算器)

文章目录 0 Preview:寄存器32通用0 $zero1 $at2—3 \$v0-$v14—7 \$a0-$a38—15 \$t0-$t716—23 \$s0-$s724—25 \$t8-$t926—27 \$k0-$k128 $gp29 $sp30 $fp 指令系统运算存储器 0 Preview: MIPS架构有32位版本和64位版本，本文介绍32位版本寄存器正如笔者曾说…...

编程日记 2025/6/30 9:26:25

MySQL数据库和表的操作之SQL语句

🎯 本文专栏：MySQL深入浅出 🚀 作者主页：小度爱学习 MySQL数据库和表的操作关系型数据库，都是遵循SQL语法进行数据查询和管理的。 SQL语句什么是sql SQL：结构化查询语言(Structured Query Language)&…...

编程日记 2025/7/3 17:55:22

Ubuntu在VMware中无法全屏

Ubuntu在VMware中无法全屏方法：安装open-vm-tools 在Ubuntu打开终端： 1.输入： sudo apt-get install open-vm-tools2.安装依赖： sudo apt-get install open-vm*3.重启Ubuntu reboot...

编程日记 2025/6/28 1:31:59

[C++面试] 智能指针面试点（重点）续3

[C面试] RAII资源获取即初始化（重点）-CSDN博客 [C面试] 智能指针面试点（重点）-CSDN博客 [C面试] 智能指针面试点（重点）续1-CSDN博客 [C面试] 智能指针面试点（重点）续2-CSDN博客 …...

编程日记 2025/6/28 3:29:14

借助FastAdmin和uniapp,高效搭建AI智能平台

在数字化办公时代，效率与协作是企业发展的核心竞争力。传统的办公工具虽然功能丰富，但在面对复杂多变的团队协作需求时，往往显得力不从心。为了解决这一痛点，我们推出了一款全新的办公AI平台，它不仅能够满足文字和语音…...

编程日记 2025/7/1 21:03:07

【弹性计算】异构计算云服务和 AI 加速器（四）：FPGA 虚拟化技术

《异构计算云服务和 AI 加速器》系列，共包含以下文章： 异构计算云服务和 AI 加速器（一）：功能特点异构计算云服务和 AI 加速器（二）：适用场景异构计算云服务和 AI 加速器（…...

编程日记 2025/7/3 22:28:14

Unity功能模块一对话系统(5)-完善对话流程及功能

现在我们的文本仍然是单句显示的，这还不是我们想要的效果，本期让我们完善对话流程，并使用SO（ScriptableObject）来进行一段对话序列的配置和动态加载。最终效果功能展示功能一：场景内可根据资源序号ID来…...

编程日记 2025/7/1 13:05:50

Ubuntu 系统中安装 Nginx

步骤 1：更新软件包列表在安装前，先更新系统软件包列表： sudo apt update步骤 2：安装 Nginx 通过 apt 直接安装 Nginx： sudo apt install nginx -y步骤 3：验证安装安装完成后，检查 Nginx …...

编程日记 2025/6/27 17:50:44

Elasticsearch：使用 Azure AI 文档智能解析 PDF 文本和表格数据

作者：来自 Elastic James Williams 了解如何使用 Azure AI 文档智能解析包含文本和表格数据的 PDF 文档。 Azure AI 文档智能是一个强大的工具，用于从 PDF 中提取结构化数据。它可以有效地提取文本和表格数据。提取的数据可以索引到 Elastic Cloud Serve…...

编程日记 2025/7/1 1:18:23

如何编译 px4

DeepSeek-R1满血版回答完成深度思考完成用时27秒，搜索全网29篇资料以下是详细的PX4固件编译教程，综合多平台及常见问题解决方案： 一、环境准备 ‌系统要求‌ ‌Ubuntu 20.04/22.04‌（推荐）或 ‌MacOS 12‌ Windo…...

编程日记 2025/6/30 12:27:38

pycharm2024.1.1版本_jihuo

目录前置： 步骤： step one 下载软件 step two 卸载旧版本 1 卸载软件 2 清除残余 step three 下载补丁 step four 安装2024.1.1版本软件 step five 安装补丁 1 找位置放补丁 2 自动设置环境变量 step six 输入jihuo码前置： 之…...

编程日记 2025/6/28 3:31:05

LLaMA Factory微调后的大模型在vLLM框架中对齐对话模版

LLaMA Factory微调后的大模型Chat对话效果，与该模型使用vLLM推理架构中的对话效果，可能会出现不一致的情况。下图是LLaMA Factory中的Chat的对话下图是vLLM中的对话效果。模型回答不稳定：有一半是对的，有一半是无关的。 1、未…...

编程日记 2025/6/30 20:01:44

📂 深度学习四大核心架构

🧠 核心区别对比表

⚡ 生活化案例理解

🔑 选型指南

相关文章：