当前位置：首页 > news >正文

【漫话机器学习系列】005.神经网络的结构（architecture on the neural network）

news 来源：原创 2025/6/23 4:24:03

神经网络（Neural Network）是一种模拟人脑神经系统的计算模型，由大量相互连接的神经元（节点）组成，广泛应用于深度学习和机器学习领域。以下是神经网络的基本结构及关键组成部分。

1. 神经网络的基本组成

一个神经网络通常由以下部分组成：

输入层（Input Layer）：
- 接收输入数据，每个节点代表一个输入特征。
- 输入数据的维度决定输入层的神经元个数。
隐藏层（Hidden Layers）：
- 位于输入层和输出层之间。
- 包含多个神经元，负责学习和提取特征。
- 可以有多个隐藏层，层数和每层的神经元数量决定网络的复杂度。
输出层（Output Layer）：
- 生成最终的输出。
- 输出神经元的数量取决于任务类型：
  - 回归任务：一个输出神经元。
  - 二分类任务：一个神经元（通常配合 Sigmoid 激活函数）。
  - 多分类任务：输出神经元数量等于类别数量（通常配合 Softmax 激活函数）。
连接权重和偏置（Weights & Biases）：
- 权重：连接神经元之间的权重，表示输入特征的重要性。
- 偏置：调整模型的灵活性，帮助模型更好地拟合数据。

2. 神经元的结构

每个神经元是一个简单的计算单元，核心结构包括：

输入：
- 接收来自上一层神经元的输出，经过权重和偏置修正。
线性组合：
- 对输入进行加权求和：
  - $w_i$ ：权重
  - $x_i$ ：输入
  - b：偏置
激活函数（Activation Function）：
- 将线性组合的结果映射为非线性输出，便于处理复杂问题。
- 常见激活函数：
  - Sigmoid: $\sigma(z) = \frac{1}{1 + e^{-z}}$
  - Tanh: $\tanh(z) = \frac{e^z - e^{-z}}{e^z + e^{-z}}$
  - ReLU: $f(z) = \max(0, z)$
输出：
- 激活函数的结果传递到下一层。

3. 网络拓扑结构

根据网络的连接方式和节点分布，神经网络可以有不同的拓扑结构：

全连接网络（Fully Connected Network, FCN）：
- 每个神经元与下一层的每个神经元相连。
- 用于处理结构化数据。
卷积神经网络（Convolutional Neural Network, CNN）：
- 用于图像数据。
- 包括卷积层、池化层、全连接层等。
循环神经网络（Recurrent Neural Network, RNN）：
- 用于处理序列数据（如时间序列、文本）。
- 包括 LSTM 和 GRU 等改进版本。
生成对抗网络（Generative Adversarial Network, GAN）：
- 包括生成器和判别器两个子网络，用于生成数据。

4. 前向传播与反向传播

前向传播（Forward Propagation）：
- 数据从输入层经过隐藏层传递到输出层。
- 计算每层的激活值，最终输出预测值。
反向传播（Backpropagation）：
- 根据损失函数计算误差。
- 从输出层向输入层更新权重和偏置。
- 使用梯度下降算法进行优化。

5. 损失函数

损失函数用于衡量模型预测值与真实值的差异。

均方误差（MSE）：
- 用于回归问题。
交叉熵损失（Cross-Entropy Loss）：
- 用于分类问题。

6. 神经网络的深度

浅层神经网络（Shallow Neural Network）：
- 只有一个隐藏层，适用于简单问题。
深度神经网络（Deep Neural Network, DNN）：
- 包含多个隐藏层，可以表示复杂的非线性关系。

7. 总结

神经网络的结构灵活多样，其核心在于通过前向传播和反向传播不断调整参数，以提高模型对数据的拟合能力。根据任务和数据类型，选择适当的网络结构和优化方法是构建神经网络的关键。

【漫话机器学习系列】005.神经网络的结构（architecture on the neural network）

神经网络（Neural Network）是一种模拟人脑神经系统的计算模型，由大量相互连接的神经元（节点）组成，广泛应用于深度学习和机器学习领域。以下是神经网络的基本结构及关键组成部分。 1. 神经网络的基本组成一…...

编程日记 2025/6/23 4:24:03

关卡选择与布局器

unity布局管理器使用unity布局管理器轻松对关卡选择进行布局。实现过程准备普通按钮button设置字体和对应的sprite设置父gameobject（levelbase） 再创建UI.image（selectbackground）布局背景和大小gameobject（grid…...

编程日记 2025/6/23 4:18:26

数据分析实战—房价特征关系

1.实战内容 （1） 读取房价特征关系表（house_price.npz）绘制离地铁站的距离与单位面积的房价的散点图，并对其进行分析； import pandas as pd import numpy as np import warnings warnings.filterwarnings(&…...

编程日记 2025/6/22 23:18:57

@ResponseBody详解

ResponseBody 是 Spring Framework 中的一种注解，用于表示返回的内容应该直接写入 HTTP 响应体，而不是通过视图解析器来渲染一个视图（如 JSP 页）。当你在控制器的方法上使用 ResponseBody 时，Spring 会将方法的返回值直…...

编程日记 2025/5/30 23:49:04

Harmony Next开发通过bindSheet绑定半模态窗口

示例概述 Harmony Next开发通过bindSheet绑定半模态窗口知识点半模态窗口父子组件传值组件 LoginComponent Component struct LoginComponent {// Prop 父子单项绑定值Prop message:string // Link 父子双向绑定值Link userName:stringLink password:stringLink isSh…...

编程日记 2025/6/22 12:12:58

Redis--高并发分布式结构

目录一、引言二、redis 1.什么是redis？ 三、基础概念 1.什么是分布式？ 2.应用服务和数据库服务分离 3.负载均衡 4.分库分表 5.微服务架构四、总结一、引言本篇文章就简单介绍一下什么是redis，以及一些关于高并发和分布式结构的…...

编程日记 2025/6/23 4:00:42

Day38 动态规划part06

322. 零钱兑换如果求组合数就是外层for循环遍历物品，内层for遍历背包。如果求排列数就是外层for遍历背包，内层for循环遍历物品。这句话结合本题大家要好好理解。视频讲解：动态规划之完全背包，装满背包最少的物品件数是多少？| LeetCode：322.零钱兑换_哔哩哔哩_bilib…...

编程日记 2025/6/23 0:13:08

1.1 类型（types）

源码 types.rs文件源码： use euclid::{Point2D, Vector2D};//引用外部泛型/// 绘图中所有事物所使用的笛卡尔坐标系。The cartesian coordinate system used by everything in a drawing. #[derive(Debug, Copy, Clone, PartialEq, Eq, Ord, PartialOrd)] pub enu…...

编程日记 2025/6/21 14:04:56

PyTorch如何通过 torch.unbind 和torch.stack动态调整张量的维度顺序

笔者一篇博客PyTorch 的 torch.unbind 函数详解与进阶应用：中英双语中有一个例子如下： # 创建一个 3x2x2 的三维张量 x torch.tensor([[[1, 2], [3, 4]],[[5, 6], [7, 8]],[[9, 10], [11, 12]]])# 第一步：沿第 0 维分解为 3 个 2x2 张量 un…...

编程日记 2025/6/23 4:02:01

在 Node.js 中安装和使用 TensorFlow.js 的完整指南

在 Node.js 中安装和使用 TensorFlow.js 的完整指南简介 TensorFlow.js 是一个开源的机器学习库，它允许在 JavaScript 环境中进行机器学习模型的开发和训练。本文将介绍如何在 Node.js 环境中安装和配置 TensorFlow.js。环境准备在开始之前，请确保…...

编程日记 2025/6/21 13:19:27

ubuntu 下如何查看用户的最近登录的时间

在 Ubuntu 系统下，可以通过以下几种方式查看用户最近的登录时间： 方法 1: 使用 last 命令 last 命令会显示系统上用户的登录记录，包括时间和来源。 last 用户名例如，要查看用户 test 的最近登录记录： last test …...

编程日记 2025/6/23 4:14:15

Linux下调试工具：gdb

Windows和Linux下的调试有区别吗？ 调试思路上一定是一样的；调试的操作方式有差别(Linux命令行调试，Windows窗口) 1.准备工作： 默认情况下，gdb无法进行对现在发布的程序进行调试(debug / release)。在Linux下用gcc编译…...

编程日记 2025/6/4 0:16:36

metagpt 多智能体系统

metagpt 多智能体系统代码1. 动作及角色定义2. 主函数代码解释1. 导入模块：2. 环境设置：3. 定义行动（Action）：4. 定义角色（Role）：5. 学生和老师的行为：6. 主函数&#…...

编程日记 2025/5/29 15:39:25

Python中opencv的一些函数及应用

Sobel 算子函数功能： Sobel 算子用于计算图像的梯度（变化率），常用于边缘检测。它通过对图像应用一个基于一阶导数的滤波器来强调图像中的边缘部分，特别是水平和垂直方向上的边缘。通过计算图像的梯度，可以…...

编程日记 2025/6/22 7:46:45

泷羽sec学习打卡-brupsuite8伪造IP和爬虫审计

声明学习视频来自B站UP主泷羽sec,如涉及侵权马上删除文章笔记的只是方便各位师傅学习知识,以下网站只涉及学习内容,其他的都与本人无关,切莫逾越法律红线,否则后果自负关于brupsuite的那些事儿-Brup-FaskIP 伪造IP配置环境brupsuite导入配置1、扩展中先配置python环境2、安…...

编程日记 2025/6/21 23:46:29

麒麟信安推出支持信创PC的新一代云桌面方案，助力政务信创高效安全运维

12月11日，在第二届国家新一代自主安全计算系统产业集群融通生态大会上，麒麟信安发布了支持信创PC的新一代云桌面方案，该方案是基于国际TCI架构实现国产PC机云化纳管在国内的首次发布，并与银河麒麟桌面操作系统、长城国产PC整机实现…...

编程日记 2025/6/23 4:02:00

【我的开源】ESCurlGen 一款 ElasticSearch curl 命令生成器

由于经常编写复杂的 Elasticsearch 查询，并通过代码生成查询条件，我发现每次使用 curl 请求 Elasticsearch 时，手动复制配置信息并构建 curl 命令的过程非常繁琐，尤其是在管理多个环境的情况下更为不便。因此，我利用 A…...

编程日记 2025/6/1 9:16:28

基于ESP32的桌面小屏幕实战[4]：硬件设计之PCB Layout

1. PCB Layout 步骤生成PCB 确定PCB layout规范绘制板框尺寸布局布局规范： 按电气性能合理分区，一般分为：数字电路区（即怕干扰、又产生干扰）、模拟电路区(怕干扰)、功率驱动区（干扰源）&a…...

编程日记 2025/6/21 15:44:27

(css)element中el-select下拉框整体样式修改

(css)element中el-select下拉框整体样式修改重点代码（颜色可行修改） // 修改input默认值颜色兼容其它主流浏览器 /deep/ input::-webkit-input-placeholder {color: rgba(255, 255, 255, 0.50); } /deep/ input::-moz-input-placeholder {color: rgba…...

编程日记 2025/6/20 21:45:51

金融分析-Transformer模型（基础理论）

Transformer模型 1.基本原理 transformer的core是注意力机制，其本质就是编码器-解码器。他可以通过多个编码器进行编码，再把编码完的结果输出给解码器进行解码，然后得到最终的output。 1.1编码器数据在编码器中会经过一个self-attention的…...

编程日记 2025/6/23 4:24:02

Parcel 常用插件：增强功能与性能的最佳选择

前言 Parcel 是一个现代化的零配置应用打包工具，旨在简化开发流程并提高效率。通过其智能的默认配置和丰富的插件生态系统，Parcel 使得开发者能够轻松应对各种构建需求。虽然 Parcel 在大多数情况下可以开箱即用，但为了满足特定的项目需求&a…...

编程日记 2025/6/3 3:36:07

Vite 与 Webpack 的区别

在前端开发中，构建工具是不可或缺的，Webpack 和 Vite 是当前最流行的选择之一。尽管它们的目标相似，但在实现方式和开发体验上却有显著差异。本文将探讨 Vite 和 Webpack 的主要区别，以便于根据项目需求选择合适的工具。 1. 构建…...

编程日记 2025/6/21 7:50:51

服务器ubuntu重装系统后将原来的用户进行关联

服务器ubuntu重装系统后将原来的用户数据进行关联关联用户到已存在目录 sudo useradd user_name -m -s /bin/bash -d /home***/name添加sudo权限 vim /etc/sudoers# 文件末尾添加 user_name ALL(ALL:ALL) ALL更改拥有者 sudo chown -R user_name:user_name /home***/na…...

编程日记 2025/6/23 4:00:41

Python模块导入：import与from...import的深度解析

Python模块导入：import与from…import的深度解析在Python编程中，模块的导入是组织和复用代码的关键环节。Python提供了import和from...import两种常见的模块导入方式，它们在使用方式、命名空间管理、可读性、内存使用等方面各有特点&#x…...

编程日记 2025/6/3 21:26:27

ROS2-humble中指定OpenCV版本进行开发

本地是Ubuntu22.04系统，安装了ROS2-humble，看了下humble自带的OpenCV版本4.5.4，由于DNN模块读取.onnx格式的模型要用OpenCV4.7及以上的版本，于是编译了4.10.0的OpenCV，但开发ROS2节点时，虽然CMake中已经指定…...

编程日记 2025/6/23 0:12:08

如何在 Ubuntu 22.04 上使用 vnStat 监控网络流量

简介 vnStat是一个免费的、开源的、基于控制台的Linux操作系统网络流量监控工具。通过vnStat，你可以在不同的时间段监控网络统计数据。它简单、轻量级，并且消耗的系统资源很小。vnStat允许你按小时、日、月、周和日生成网络流量数据。本教程将向你展示如…...

编程日记 2025/5/25 23:17:13

为什么要使用数据仓库？

现状和需求大量的企业经营性数据（订单，库存，原料，付款等）在企业的业务运营系统以及其后台的(事务型)数据库中产生的。企业的决策者需要及时地对这些数据进行归类分析，从中获得企业运营的各种业务特征&a…...

编程日记 2025/6/21 21:18:43

《宇宙机器人》提示错误弹窗“找不到d3dx9_43.dll”是什么原因？“d3dx9_43.dll缺失”怎么解决？

电脑游戏运行时常见问题解析：《宇宙机器人》提示“找不到d3dx9_43.dll”的解决之道 TGA2024落幕，年度最佳游戏——《宇宙机器人》，作为一名在软件开发领域深耕多年的从业者，我深知电脑游戏在运行过程中可能会遇到的各种挑战&…...

编程日记 2025/6/20 8:19:50

DAC数据手册中专有名词TERMINOLOGY 讲解

DAC数据手册中TERMINOLOGY专有名词讲解 Relative Accuracy or Integral Nonlinearity (INL)：相对精度或积分非线性LSB（Least Significant Bit）：最小有效位 Differential Nonlinearity (DNL)：差分非线性单调性DNL很重…...

编程日记 2025/6/2 20:05:26

Java中基于TCP的Socket编程

一、概述 Socket（套接字）是网络通信的一种机制，允许不同主机之间的进程进行通信。在Java中，Socket支持TCP（传输控制协议）和UDP（用户数据报协议）。 1、TCP协议介绍 TCP协议在通信之…...

编程日记 2025/6/21 19:18:20

详解二叉树

一、树的概念和结构树是⼀种非线性的数据结构，它是由 n（n>0） 个有限结点组成⼀个具有层次关系的集合。把它叫做树是因为它看起来像⼀棵倒挂的树，也就是说它是根朝上，而叶朝下的。 • 有⼀个特殊的结点&#xff0…...

编程日记 2025/6/21 5:59:59

Kafka Connect

根据您提供的错误信息和日志分析，这里是一些针对 Kafka Connect、协调者不可用、网络客户端连接问题、消费者组偏移量提交失败以及消费者组协调者发现问题的具体解决建议： 检查 Kafka 集群状态： 使用 kafka-broker-api-versions.sh 检查每个 …...

编程日记 2025/6/20 20:09:19

Mac charles报错 invalid keystore format

1.问题说明打开charles会有一个 invalid keystore format的提示，更隐藏的影响，是安卓设备安装了凭证，但是charles仍然抓不到包，会展示unknow，即使是charles配置好了ssl proxy setting，并且mac信任了char…...

编程日记 2025/6/1 17:12:44

Leetcode 409. Longest Palindrome

Problem Given a string s which consists of lowercase or uppercase letters, return the length of the longest palindrome that can be built with those letters. Letters are case sensitive, for example, “Aa” is not considered a palindrome. Algorithm Count …...

编程日记 2025/6/20 10:10:49