当前位置：首页 > news >正文

Python----深度学习（全连接与链式求导法则）

news 来源：原创 2025/8/14 7:20:24

一、机器学习和深度学习的区别

机器学习：利用计算机、概率论、统计学等知识，输入数据，让计算机学会新知识。机器学习的过程，就是训练数据去优化目标函数。

深度学习：是一种特殊的机器学习，具有强大的能力和灵活性。它通过学习将世界表示为嵌套的层次结构，每个表示都与更简单的特征相关，而抽象的表示则用于计算更抽象的表示。

传统的机器学习需要定义一些手工特征，从而有目的的去提取目标信息，非常依赖任务的特异性以及设计特征的专家经验。而深度学习可以从大数据中先学习简单的特征，并从其逐渐学习到更为复杂抽象的深层特征，不依赖人工的特征工程，这也是深度学习在大数据时代受欢迎的一大原因。

二、人工神经网络

人工神经网络(Artificial Neural Network,ANN)可以对一组输入信号和一组输出信号之间的关系进行建模，其灵感源于动物的神经中枢，由大量的人工神经元连接而成；

神经网络，也称为人工神经网络（ANN）或模拟神经网络（SNN），是机器学习的子集，并且是深度学习算法的核心。其名称和结构是受人类大脑的启发，模仿了生物神经元信号相互传递的方式，但实际上并不十分相通。一般分为3个层次：输入层，输出层，隐藏层

在上图中，所有的“圆圈”有一个共同的名字，叫做神经节点。一个神经网络是由很多个节点来构成的，不同层的节点会有不同的作用。

比如节点“x”所在的层叫做输入层。每一个神经网络都只有一个输入层，但输入层可以有很多个“输入”节点，所有的特征都从该层进行输入。比如上面的神经网络中输入层只有“x”一个节点，也就意味着该神经网络只有一个输入特征，例如根据用水量判断水费，“x”就是用水量。

节点“ a1_1”和节点“a2_1 ”所在的层叫做隐藏层，一个神经网络可以有很多个隐藏层，每一个隐藏层中也可以有很多个节点。

隐藏层是用来对输入的特征进行计算的结果，层数越多，模型越复杂。

上面的神经网络中有一层隐藏层，该隐藏层中有两个节点，其中“a1_1 ”节点下角标的第一个“1”表示该节点是本层的第一个节点，第二个“1”表示是神经网络的第1层（第一个隐藏层是第一层）。

由此，“ a2_1”节点的下角标代表本节点是该网络第一层隐藏层中的第二个节点。

节点“a1_2 ”所在的层叫做输出层，一个神经网络只能有一个输出层，例如根据用水量判断水费，水费就是输出。输出层的节点可以有很多个，例如某地的用水量不仅仅影响用水费，还有水资源费改税和污水处理费。同时在分类任务中，目标有几类，输出层就会有几个节点，例如根据图片判断这是猫还是狗。

输出层是输入层经过隐藏层计算后得到的结果，比如上面的神经网络的输出层中就只有一个输出节点“a1_2 ”。同时，节点“a1_2 ”表示该节点是该网络第二层的第一个节点，“z1_2 ”先不用管，后续前向计算时会说到。

还有w11_1、w12_1 、b1_1 、b2_1等参数，它们是神经网络计算过程中必不可少的参数，并且每个参数的下角标都不一样，不同下角标的参数所代表的意义不一样。

比如，第一个“1”代表计算对象是前一层的第一个节点；第二个“1”代表计算后的结果（需要激活）是本层的第一个节点；第三个“1”代表本参数是第一层的参数。

由此，表示该参数是第一层的参数，其计算对象是上一层的第一个节点，计算后的结果（需要激活）是本层的第二个节点，表示该参数是第二层的参数，其计算对象是上一层的第一个节点，计算后的结果（需要激活）是本层的第一个节点；表示该参数是第一层的参数，计算结果（需要激活）是本层的第一个节点，表示该参数是第一层的参数，计算结果（需要激活）是本层的第二个节点。

三、全连接神经网络

全连接神经网络（Fully Connected Neural Network），是一种连接方式较为简单的人工神经网络结构，顾名思义，它的每个节点都与下一层的所有节点有连接。这种网络通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。在工程与学术界，全连接神经网络也常直接简称为“神经网络”或类神经网络。上面例子中的神经网络就是一个结构简单的全连接神经网络。

四、感知器工作机制

感知器即单层神经网络，也即"人工神经元"，是组成神经网络的最小单元

Python----深度学习（全连接与链式求导法则）

一、机器学习和深度学习的区别机器学习：利用计算机、概率论、统计学等知识，输入数据，让计算机学会新知识。机器学习的过程，就是训练数据去优化目标函数。深度学习：是一种特殊的机器学习，具有强大的能力和…...

编程日记 2025/8/14 7:20:24

基于SpringBoot的网上找律师管理系统

博主介绍：java高级开发，从事互联网行业六年，熟悉各种主流语言，精通java、python、php、爬虫、web开发，已经做了六年的毕业设计程序开发，开发过上千套毕业设计程序，没有什么华丽的语言&#xff0…...

编程日记 2025/8/14 7:17:21

《目标检测双雄：YOLO与Faster R-CNN，谁主沉浮？》

在计算机视觉的广阔天地里，目标检测技术宛如一颗璀璨的明星，照亮了无数应用场景。从安防监控中对行人与车辆的精准识别，到自动驾驶领域对道路障碍物的快速判断，再到工业生产里对产品缺陷的严格检测，目标检测无处不在&a…...

编程日记 2025/8/14 7:18:46

CUDA编程中影响性能的小细节总结

一、内存访问优化合并内存访问：确保相邻线程访问连续内存地址（全局内存对齐访问）。优先使用共享内存（Shared Memory）减少全局内存访问。避免共享内存的Bank Conflict（例如，使用padding或调整访…...

编程日记 2025/8/14 7:19:27

C#学习第17天：序列化和反序列化

什么是序列化？ 定义：序列化是指把对象转换为一种可以轻松存储或传输的格式，如JSON、XML或二进制格式。这个过程需要捕获对象的类型信息和数据内容。用途：使得对象可以持久化到文件、发送至网络、或存储在数据库中。什么是反序列…...

编程日记 2025/8/14 7:15:29

kafka的零拷贝技术

在 Kafka 中，高性能数据传输依赖于操作系统提供的零拷贝（Zero-Copy） 技术，主要包括 sendfile 和 mmap 两种实现方式。它们的核心目标是减少数据在用户态和内核态之间的拷贝次数，从而提升 I/O 效率。下面详细解析它们的…...

编程日记 2025/8/13 11:35:37

从 0~1 保姆级详细版 PostgreSQL 数据库安装教程

PostgreSQL数据库安装 PostgreSQL官网【PostgreSQL官网】 | 【PostgreSQL安装官网_Windows】安装步骤 step1： 选择与电脑相对应的PostgreSQL版本进行下载。 step2： 双击打开刚才下载好的文件。 step3： 在弹出的setup窗口中点击 …...

编程日记 2025/8/14 7:16:35

MySQL中常用函数的分类及示例

概述以下是 MySQL 中常用函数的分类及示例，涵盖字符串处理、数值计算、日期操作、条件判断等常见场景： 一、字符串函数 1. CONCAT(str1, str2, ...) 拼接字符串。 SELECT CONCAT(Hello, , World); -- 输出: Hello World2. SUBSTRING(str, start,…...

编程日记 2025/8/10 13:40:15

【论文阅读21】-PSOSVM-CNN-GRU-Attention-滑坡预测（2024-12）

这篇论文主要提出并验证了一种新型的混合智能模型（PSOSVM-CNN-GRU-Attention），用于准确预测滑坡的点位移，并构建可靠的位移预测区间。通过对Baishuihe滑坡和Shuping滑坡的案例分析，展示了该模型的出色性能。 [1] Zai D…...

编程日记 2025/8/12 9:45:45

Shiro-550 动调分析与密钥正确性判断

一、Shiro 简介 Apache Shiro是一个开源安全框架，用于构建 Java 应用程序，提供身份验证、授权、加密和会话管理等功能。二、Shiro-550（CVE-2016-4437） 1、漏洞原理 Shiro 在用户登陆时提供可选项 RememberMe，若勾选…...

编程日记 2025/8/12 9:58:50

Codeforces Educational Round 177 Div. 2 【B题，C待补

B 二分题意样例 5 3 10 3 4 2 1 512 找最右边的L下标即可思路二分最靠右的L端点，R端点取最右端(n*k处)，找到后，答案就是L的位置(pos)，（因为如果pos满足，则pos左边的所有下标都满足代码 const in…...

编程日记 2025/7/31 21:48:25

【Lua语言】Lua语言快速入门

初始Lua Lua是一种轻量小巧的脚本语言，他使用标准C语言编写并以源代码形式开放。这意味着Lua虚拟机可以很方便的嵌入别的程序中，从而为应用程序提供灵活的扩展和定制功能。同时，在目前脚本引擎中，Lua的运行速度占有绝对优势。变…...

编程日记 2025/7/31 1:24:31

Matlab画海洋与大气变量的时间序列并带标记面的三维折线图--来源粉丝

Matlab画带标记面的三维折线图–来源粉丝图片目标图： 图片复现： 图片细节可在代码中更改： 数据构造 clear;clc;close all; % 数据构造 X1 1:8;Y1ones(length(X1),1); X2 X1;Y22*ones(length(X1),1); X3 X1;Y33*ones(length(X1),1); …...

编程日记 2025/8/7 4:58:48

NestJS——多环境配置方案（dotenv、config、@nestjs/config、joi配置校验）

个人简介 👀个人主页： 前端杂货铺 🙋‍♂️学习方向： 主攻前端方向，正逐渐往全干发展 📃个人状态： 研发工程师，现效力于中国工业软件事业 🚀人生格言： 积跬步…...

编程日记 2025/8/8 4:56:55

RAGFlow在Docker中运行Ollama直接运行于主机的基础URL的地址

基础Url http://host.docker.internal:11434...

编程日记 2025/8/11 6:47:37

上图 import os import time import threading import requests import subprocess import importlib import tkinter as tk from tkinter import ttk, messagebox, scrolledtext from concurrent.futures import ThreadPoolExecutor, as_completed from urllib.parse import…...

编程日记 2025/8/9 4:32:19

【MySQL】数据库约束

个人主页：♡喜欢做梦欢迎 👍点赞 ➕关注 ❤️收藏 💬评论目录 ✨一、数据库的约束 🌟二、数据库约束的分类 🌍 1.非空约束（NOT NULL） 1.定义 2.格式 3.示例： 列的信息可…...

编程日记 2025/8/12 19:37:17

Firewalld防火墙

目录 Firewald 防火墙概述 Firewalld 简介 firewalld 与 iptables service的区别 Firewalld 网络区域 Firewalld 防火墙图形配置方法服务选项端口号协议选项源端口选项伪装选项端口转发 ICMP过滤器防火墙的配置运行状态运行时和永久有什么区别 Firewalld 防火墙 firewa…...

编程日记 2025/8/9 19:53:35

使用 TensorFlow 和 Keras 构建 U-Net

U-Net是图像分割领域中最为著名的架构之一。U-Net 因其形状而得名，它是一种全卷积架构，首先将图像收缩，然后将其扩展为输出结果。虽然这种收缩路径构建了一个学习特征的层次结构，但跳过连接有助于在扩展路径中将这些特征转换回相关…...

编程日记 2025/7/31 21:48:07

【网络篇】TCP vs UDP底层区别+网络编程概念

大家好呀我是浪前今天讲解的是网络篇的第三章：网络编程概念和TCP&UDP的区别网络编程概念TCP和UDP的区别跨主机通信:网络编程插座：网络编程的本质： 网络编程的重要概念：客户端和服务器： 客户端和服务器的交互模…...

编程日记 2025/8/8 16:51:49

如何保存服务器mysql数据库的数据到本地文件

打开mysql命令行如图1 图1 mysql命令行修改文件保存路径。在mysql安装目录下，找到my.ini文件，找到secure-file-priv变量配置的地方，修改对应的值，然后重启mysql，此时把文件放到指定路径，再执行导入导出…...

编程日记 2025/8/10 22:32:47

Flutter学习滚动组件（2）：ListView进阶使用

目录前言：一、实现复杂的ListView列表：1.1 Item布局封装1.2 ListView的使用1.3 增加分割线二、实现ListView下拉刷新：三、实现上拉加载更多：四、实现下拉刷新、上拉加载更多：五、ListView滚动方向和控制：…...

编程日记 2025/8/8 10:24:00

linux oracle 19c 静默安装

oracle数据库有个比较很抓瞎的事情，不同的版本搭建的大致流程是一样的，但是在实操细节上会有不同，比如操作的脚本位置和配置项等等，这些会变，所以需要时常积累不同版本的文档这里有一点要说明，之所以使用…...

编程日记 2025/8/11 0:41:18

中间件--ClickHouse-11--部署示例（Linux宿主机部署，Docker容器部署）

一、Linux宿主机部署 1、环境准备操作系统：推荐使用 CentOS 7/8 或 Ubuntu 18.04/20.04。硬件要求： 至少 2 核 CPU 和 4GB 内存。足够的磁盘空间（根据数据量评估）。CPU需支持SSE4.2指令集（可通过以下命令检查&#…...

编程日记 2025/8/6 6:49:49

AI调试工具有哪些？

一、深度学习框架专用调试工具 TensorBoard • 功能：实时监控训练指标（损失值、准确率）、可视化神经网络结构、分析参数分布和梯度信息 • 适用框架：TensorFlow、PyTorch（通过插件） • 特点：支持…...

编程日记 2025/8/11 16:01:03

Warcraft Logs [Classic] [WCL] BOSS ID query

Warcraft Logs [Classic] [WCL] BOSS ID query 所有副本BOSSID查询 https://wowpedia.fandom.com/wiki/DungeonEncounterID#Retail IDNameMapInstanceIDPatch227High Interrogator GerstahnBlackrock Depths230228Lord RoccorBlackrock Depths230229Houndmaster GrebmarBlackro…...

编程日记 2025/8/13 10:22:15

MySQL——事务

一、什么是事务？ 事务（Transaction） 是数据库操作的最小逻辑单元，它由一组不可分割的SQL操作组成。事务的核心目标是确保多个操作要么全部成功，要么全部失败，从而维护数据的完整性。例如，银行转…...

编程日记 2025/8/7 4:57:18

spring Ai---向量知识库(一)

在一些垂直领域以及公司内部信息相关或者实时性相关的大模型应用，就无法直接使用chatGPT。这个时候，向量知识库就进入了。通过坐标向量最接近的即为匹配相关答案。向量模型定义：将文档向量化，保证内容越相似的文本，…...

编程日记 2025/8/8 7:36:00

MACOS 上的快捷指令怎么用，有哪些分享资源可以用

一、快捷指令的基本概念与历史快捷指令（Shortcuts）是苹果生态中的自动化工具，最初以第三方应用Workflow（2014年推出）的形式出现，2017年被苹果收购后更名为Shortcuts，并深度集成到iOS、iPadOS和macOS系统中。从macOS Mojave（10.14）开始，快捷指令正式登陆Mac平台，并…...

编程日记 2025/8/11 8:26:49

最长子序列长度（LIS）--个数遍历的二分+贪心优化

B3637 最长上升子序列 - 洛谷 #include<bits/stdc.h> #include<string> using namespace std; #define N 100011 typedef long long ll; typedef pair<int,int> pii; int n; int g[N]; int dp[N]; int ma0; int main() { cin>>n; memset(g,0x3f,sizeo…...

编程日记 2025/8/4 1:56:01

RenderStage::runCameraSetUp

文章目录 RTTosg::Camera::_bufferAttachmentMapRenderStage::BufferComponent和RenderStage::_bufferAttachmentMapCamera::attach(BufferComponent buffer, GLenum internalFormat)Camera::attach(BufferComponent buffer, osg::Texture* texture.....Camera::attach(BufferC…...

编程日记 2025/8/12 0:50:46

一、机器学习和深度学习的区别

二、人工神经网络

三、全连接神经网络

四、感知器工作机制

相关文章：