当前位置： 首页 > news >正文

神经网络背后的数学原理

news 来源：原创 2025/9/12 4:19:27

神经网络背后的数学原理

  • 数学建模
  • 神经网络
  • 数学原理

数学建模

标题民科味道满满。其实这篇小短文就是自我娱乐。

物理世界是物种多样，千姿百态。可以从不同的看待眼中的世界，包括音乐、绘画、舞蹈、雕塑等各种艺术形式。但这些主观的呈现虽然在各人眼中是物理写实的，但是经过大脑处理后有了不同的结果。各自的大脑有着不同的世界建模，对万物的联系edge有着不同的权重。
看到一朵红色的花，这是牛饲料，这是绘画的风景，这是物理学的光的反射，这是生物学中色素的沉淀，这是片肥沃的土地，这是季节的反映。。。这可能就是所谓的局域性原理。越近影响越大。

从而可知要真实的用数学去刻画这个世界，需要多少公式，需要引入多少变量，结果却未知。所以退而求其次，在专业领域做专业的事。这可能也是许多人对AGI悲观的原因吧。

神经网络

神经网络给了我们一个机会，以能量去换取真实世界的近似。
经过多年的互联网发展，积累了海量的数据；摩尔定律使得处理器达到了很高的性能。神经网络虽很早就出现，但在现在才适逢其会，将算法、数据、算力这3者融合在一起，不需要定义各种规则，也能去模拟、近似某个事物。这也让一些人看到了实现AGI的可能性。理论上，只要足够的数据，足够大的模型，足够的参数，足够的算力是有可能无限接近。

数学原理

虽上过高数课，但我没有经过严格的数学培训，此处就是以一介数学白丁的视角看神经网络后的数学原理。

数学最大的能力就是能够超出物理限制，可以自洽的展现多维世界。二维世界不好解决的问题，将它升维到三维世界，可能就能一眼看穿答案。因为在高维世界，可以更容易看清楚物体间的关联性。而这正是神经网络所需。

一句话被tokenize为多个token后，为了得到token间的相关性，以embedding方式将token从scalar升维为vector，从而在二维空间里训练模型，得到相关性。此种升维手段用处多多。
但是升维带来的问题也很明显，那就是参数量的剧增。从而又出现以工程方法来减少计算量的尝试，以极低精度算来带来训练和推理性能提升。比如降秩、剪枝、稀疏化等。

瞎写到现在，也不知说了啥…

相关文章：

神经网络背后的数学原理

神经网络背后的数学原理 数学建模神经网络数学原理 数学建模 标题民科味道满满。其实这篇小短文就是自我娱乐。 物理世界是物种多样，千姿百态。可以从不同的看待眼中的世界，包括音乐、绘画、舞蹈、雕塑等各种艺术形式。但这些主观的呈现虽然在各人眼中…...

编程日记 2025/9/12 4:19:27

常用图像滤波及色彩调节操作（Opencv）

1. 常用滤波/模糊操作 import cv2 import numpy as np import matplotlib.pyplot as plotimg cv2.imread("tmp.jpg") img cv2.cvtColor(img, cv2.COLOR_BGR2RGB) img_g cv2.GaussianBlur(img, (7,7), 0) img_mb cv2.medianBlur(img, ksize7) #中指滤波 img_bm …...

编程日记 2025/9/11 14:57:14

FFMPEG和opencv的编译

首先 sudo apt-get update -qq && sudo apt-get -y install autoconf automake build-essential cmake git-core libass-dev libfreetype6-dev libgnutls28-dev libmp3lame-dev libsdl2-dev libtool libva-dev libvdpau-dev libvorbis-de…...

编程日记 2025/9/10 17:25:04

用户登录不上linux服务器

一般出现这种问题，重新用root用户修改lsy用户的密码即可登录，但是当修改了还是登录不了的时候，去修改一个文件用root才能修改， 然后在最后添加上改用户的名字，例如 原本是只有user的，现在我加上了lsy了&a…...

编程日记 2025/9/12 4:17:57

【项目管理】第11章 项目成本管理-- 知识点整理

相关文档，希望互相学习，共同进步 风123456789～-CSDN博客 （一）知识总览 项目管理知识域 知识点： （项目管理概论、立项管理、十大知识域、配置与变更管理、绩效域） 对应：第6章-第19章 ​ ​ （二）知识笔记​ 第11章 项目成本管理 ​ 1.管理基础…...

编程日记 2025/9/12 4:19:26

Python中的strip()

文章目录 基本语法：示例：1. 默认移除空白字符：2. 移除指定字符：3. 不修改原字符串： 相关方法：示例： 注意事项： 在 Python 中， strip() 是一个字符串方法，用于…...

编程日记 2025/9/8 13:02:54

设计模式 Day 9：命令模式（Command Pattern）完整讲解与实战应用

🔄 回顾 Day 8：策略模式 在 Day 8 中我们讲解了策略模式： 用于封装多个可切换的算法逻辑，让调用者在运行时选择合适的策略。它强调的是“行为选择”，是针对“算法或行为差异”而设计。通过 PaymentStrategy、路径规划…...

编程日记 2025/9/12 4:16:03

【正点原子】STM32MP257 同构多核架构下的 ADC 电压采集与处理应用开发实战

在嵌入式系统中，ADC模拟电压的读取是常见的需求。如何高效、并发、且可控地完成数据采集与处理？本篇文章通过双线程分别绑定在 Linux 系统的不同 CPU 核心上，采集 /sys/bus/iio 接口的 ADC 原始值与缩放系数 scale，并在另一个核上…...

编程日记 2025/9/11 4:12:47

区块链从专家到小白

文章目录 含义应用场景典型特征 含义 以非对称加密算法为基础。 每个**区块（Block）**包含： ​交易数据​（如转账记录、合约内容）。 ​时间戳​（记录生成时间）。 ​哈希值​（当前区…...

编程日记 2025/9/6 18:11:31

记录centos8安装宝塔过程（两个脚本）

1、切换系统源&#xff08;方便使用宝塔安装脚本下载&#xff09; bash <(curl -sSL https://linuxmirrors.cn/main.sh) 2、宝塔安装脚本在宝塔的官网 宝塔面板下载&#xff0c;免费全能的服务器运维软件 根据自己的系统选择相应的脚本 urlhttps://download.bt.cn/insta…...

编程日记 2025/9/10 3:14:28

DAY 42 leetcode 151--哈希表.反转字符串中的单词

题号151 给你一个字符串 s &#xff0c;请你反转字符串中 单词 的顺序。 单词 是由非空格字符组成的字符串。s 中使用至少一个空格将字符串中的 单词 分隔开。 返回 单词 顺序颠倒且 单词 之间用单个空格连接的结果字符串。 我的解法 暴力解法&#xff0c;先将String转为字…...

编程日记 2025/9/12 4:17:56

[VTK] 四元素实现旋转平移

VTK 实现旋转&#xff0c;有四元数的方案&#xff0c;也有 vtkTransform 的方案&#xff1b;主要示例代码如下&#xff1a; //构造旋转四元数vtkQuaterniond rotation;rotation.SetRotationAngleAndAxis(vtkMath::RadiansFromDegrees(90.0),0.0, 1.0, 0.0);//构造旋转点四元数v…...

编程日记 2025/9/6 17:42:35

AI大模型：（二）2.2 分词器Tokenizer

目录 1.分词技术的发展 2.分词器原理 2.1.基于词分词 2.2.基于字符分词 2.3.基于子词分词 3.手搓Byte-Pair Encoding (BPE)分词及训练 3.1.Byte-Pair Encoding (BPE)分词原理 3.2.手搓Byte-Pair Encoding (BPE)分词器 4.如何选择已有的分词器 1. 常见子词分词器及特点…...

编程日记 2025/9/12 4:17:56

codeforces A. Simple Palindrome

目录 题面 代码 题面 A. 简单回文串 每个测试用例时间限制&#xff1a;1 秒 每个测试用例内存限制&#xff1a;256 兆字节 纳雷克要在幼儿园陪一些两岁的孩子度过两个小时。他想教孩子们竞技编程&#xff0c;他们的第一堂课是关于回文串的。 纳雷克发现孩子们只认识英文字母…...

编程日记 2025/9/5 13:59:35

Linux 进程基础（一）：冯诺依曼结构

文章目录 一、冯诺依曼体系结构是什么&#xff1f;&#x1f9e0;二、冯诺依曼体系为何成为计算机组成的最终选择&#xff1f;&#xff08;一&#xff09;三大核心优势奠定主流地位&#xff08;二&#xff09;对比其他架构的不可替代性 三、存储分级&#xff1a;速度与容量的平衡…...

编程日记 2025/9/10 9:12:41

向量存储（VectorStore）详解

一、向量存储的核心概念 向量存储&#xff08;VectorStore&#xff09;是一种用于存储和检索高维向量数据的数据库或存储解决方案&#xff0c;特别适用于处理经过嵌入模型转化后的数据。与传统关系数据库不同&#xff0c;VectorStore 执行的是相似性搜索&#xff0c;而非精确匹…...

编程日记 2025/9/9 6:21:44

HCIP(网络类型)

网络类型概述 网络类型主要基于数据链路层使用的协议不同&#xff0c;导致数据包封装方式不同&#xff0c;工作方式也有所区别。根据这些特点&#xff0c;网络可以被分类为以下几种类型&#xff1a; MA网络&#xff08;多点接入网络&#xff09;&#xff1a;允许同时接入多台…...

编程日记 2025/9/11 13:42:29

MTCNN 人脸识别

前言 此处介绍强大的 MTCNN 模块&#xff0c;给出demo&#xff0c;展示MTCNN 的 OOP&#xff0c; 以及ROS利用 C 节点&#xff0c;命令行调用脚本执行实际工作的思路。 MTCNN Script import argparse import cv2 from mtcnn import MTCNN import osclass MTCNNProcessor:def…...

编程日记 2025/9/11 19:56:37

一文解析DeepSeek R1模型

1. DeepSeek R1-Zero 在训练DeepSeek R1之前&#xff0c;深度求索团队尝试做了一个DeepSeek R1-Zero的模型&#xff0c;只进行强化学习而不需要监督微调&#xff0c;以此来强化模型自我推理的能力。 通过下图回顾下ChatGPT的做法&#xff1a;首先SFT&#xff0c;然后训练奖励…...

编程日记 2025/9/8 7:33:48

SpringMVC基础三（json）

乱码处理 编写一个表单&#xff1a; 编写EncodingController控制类 测试&#xff1a; 此乱码是在从前端传送到test方法时就已经乱了。 采用过滤器解决乱码 在web.xml中配置SpringMVC的乱码过滤器 <filter><filter-name>encoding</filter-name><filter…...

编程日记 2025/9/10 11:52:20

spring boot大文件与多文件下载

一、简单大文件下载&#xff1a; /*** 下载大文件* param path 路径* param fileName 文件名* return* throws IOException*/ public static ResponseEntity<InputStreamResource> downloadFile(String path, String fileName) throws IOException {Path filePath Path…...

编程日记 2025/9/10 19:38:02

事务隔离级别和MVCC

事务隔离级别 mysql是一个客户端/服务器架构的软件&#xff0c;对于同一个服务器来说&#xff0c;可以有多个客户端与之连接。每个客户端与服务器连接后就形成了一个会话。每个客户端都可以在自己的会话中向服务器发出请求语句&#xff0c;一个请求语句可能是某个事务的一部分…...

编程日记 2025/9/10 21:08:41

Ubuntu 系统深度清理：彻底卸载 Redis 服务及残留配置

Ubuntu 系统深度清理&#xff1a;彻底卸载 Redis 服务及残留配置 在Ubuntu系统中&#xff0c;Redis是一种广泛使用的内存数据存储系统&#xff0c;用于缓存和消息传递等场景。然而&#xff0c;有时候我们需要彻底卸载Redis&#xff0c;以清理系统资源或为其他应用腾出空间。本…...

编程日记 2025/9/11 22:54:03

关于群晖安装tailscale后无法直链的问题

问题是我局域网的ipv6无法正确获取到ip, 通过命令可以看到ipv6没有ip tailscale netcheck C:\Users\Administrator>tailscale netcheck 2025/04/12 23:43:34 attempting to fetch a DERPMap from https://controlplane.tailscale.comReport:* Time: 2025-04-12T15:43:38.27…...

编程日记 2025/9/3 7:28:38

第十二章：FreeRTOS多任务创建与删除

FreeRTOS多任务创建与删除教程 概述 本教程介绍FreeRTOS多任务的创建与删除方法&#xff0c;主要涉及两个核心函数&#xff1a; 任务创建&#xff1a;xTaskCreate()任务删除&#xff1a;vTaskDelete() 实践步骤 1. 准备工程文件 复制005工程并重命名为006 2. 创建多个任务…...

编程日记 2025/9/7 11:10:23

JavaScript数组方法：`some()`的全面解析与应用

文章目录 JavaScript数组方法&#xff1a;some()的全面解析与应用一、some()方法的基本概念语法参数说明返回值 二、some()方法的核心特点三、基础用法示例示例1&#xff1a;检查数组中是否有大于10的元素示例2&#xff1a;检查字符串数组中是否包含特定子串 四、实际应用场景1…...

编程日记 2025/9/8 20:42:07

IntelliJ IDEA历史版本下载安装链接

IntelliJ IDEA | Other Versions 拿走&#xff0c;不谢O(∩_∩)O...

编程日记 2025/8/17 21:20:39

Rag实现流程

Rag实现流程 目录 Rag实现流程1. 加载问答链代码解释`chain_type="stuff"` 的含义其他 `chain_type` 参数选项及特点1. `map_reduce`2. `refine`3. `map_rerank`示例代码展示不同 `chain_type` 的使用其他参数类型2. 提出问题3. 检索相关文档代码解释其他参数类型4. …...

编程日记 2025/9/7 23:23:37

设计模式 --- 命令模式

命令模式是一种行为设计模式&#xff0c;它将请求封装成一个对象&#xff0c;从而允许你使用不同的请求、队列或日志来参数化其他对象&#xff0c;同时支持请求的撤销与恢复。 优点&#xff1a; 1.解耦调用者与接收者​​&#xff1a;输入处理无需直接调用角色方法 2.支持撤销…...

编程日记 2025/9/10 13:53:18

C# TCP与ip通信

一、获取本机的ip地址 // 获取本地主机名 string hostName Dns.GetHostName(); string ip "127.0.0.1"; //Console.WriteLine("本地主机名: " hostName);// 获取本地IP地址 IPAddress[] addresses Dns.GetHostAddresses(hostName); Console.WriteLine…...

编程日记 2025/9/9 10:25:25

如何使用 Grafana 连接 Easyearch

Grafana 介绍 Grafana 是一款开源的跨平台数据可视化与监控分析工具&#xff0c;专为时序数据&#xff08;如服务器性能指标、应用程序日志、业务数据等&#xff09;设计。它通过直观的仪表盘&#xff08;Dashboards&#xff09;帮助用户实时监控系统状态、分析趋势&#xff0…...

编程日记 2025/9/10 14:14:34

ubuntu20.04 openvino的yolov8推理（nncf量化）

1.环境配置&#xff1a; pip install openvino-dev(2023.0.1) pip install nncf(2.5.0) pip install ultralytics 2.模型转换及nncf量化&#xff1a; 1.pytorch->onnx: # Pytorch模型转换为Onnx模型 python from ultralytics import YOLO model YOLO(yolov8s.pt) # yo…...

编程日记 2025/9/9 6:17:24

《Python星球日记》第26天：Matplotlib 可视化

名人说&#xff1a;路漫漫其修远兮&#xff0c;吾将上下而求索。—— 屈原《离骚》 创作者&#xff1a;Code_流苏(CSDN)&#xff08;一个喜欢古诗词和编程的Coder&#x1f60a;&#xff09; 订阅专栏&#xff1a;《Python星球日记》 目录 一、Matplotlib 简介1. 什么是 Matplo…...

编程日记 2025/9/7 14:14:40

2025蓝桥杯python A组题解

真捐款去了&#xff0c;好长时间没练了&#xff0c;感觉脑子和手都不转悠了。 B F BF BF 赛时都写假了&#xff0c; G G G 也只写了爆搜。 题解其实队友都写好了&#xff0c;我就粘一下自己的代码&#xff0c;稍微提点个人的理解水一篇题解 队友题解 B 思路&#xff1a; 我…...

编程日记 2025/9/11 0:38:42

OpenHarmony - 小型系统内核（LiteOS-A）（一）

OpenHarmony - 小型系统内核&#xff08;LiteOS-A&#xff09;&#xff08;一&#xff09; 一、小型系统内核概述 简介 OpenHarmony 轻量级内核是基于IoT领域轻量级物联网操作系统Huawei LiteOS内核演进发展的新一代内核&#xff0c;包含LiteOS-M和LiteOS-A两类内核。LiteOS-…...

编程日记 2025/9/9 1:30:46

Neo4j GDS-13-neo4j GDS 库中节点插入算法实现

neo4j GDS 系列 Neo4j APOC-01-图数据库 apoc 插件介绍 Neo4j GDS-01-graph-data-science 图数据科学插件库概览 Neo4j GDS-02-graph-data-science 插件库安装实战笔记 Neo4j GDS-03-graph-data-science 简单聊一聊图数据科学插件库 Neo4j GDS-04-图的中心性分析介绍 Neo…...

编程日记 2025/9/10 19:30:54

js中this的指向问题

前言&#xff1a; 在js中&#xff0c;this出现的位置多种多样&#xff0c;你会不会迷糊呢&#xff1f;this到底指代的是哪个对象&#xff1f;这篇文章带你搞懂不同场景下this的指向问题。 this出现场景&#xff1a; 从作用域的角度来讲&#xff0c;this出现的位置无非就是两…...

编程日记 2025/9/8 1:08:06

【3dSwap】3D-Aware Face Swapping

文章目录 3D-Aware Face Swapping背景points贡献方法从2D图像推断3D先验通过潜在代码操纵进行人脸交换联合枢轴调整目标函数实验与二维人脸交换方法比较进一步分析3D感知人脸交换消融实验局限性3D-Aware Face Swapping 会议/期刊：CVPR 2023 作者： code：https://lyx0208.gi…...

编程日记 2025/9/6 17:07:50

基于STM32的智能门禁系统

2.1系统方案设计 本课题为基于STM32的智能门禁系统的设计&#xff0c;其系统架构如图2.1所示&#xff0c;整个系统由STM32F103单片机和MaixBit开发板两部分构成&#xff0c;其中MaixBit是基于K210芯片的开发板&#xff0c;在此主要负责人脸的录入&#xff0c;识别&#xff0c;…...

编程日记 2025/9/8 11:39:55

用链表、信号，实现简易MP3项目

链表实现MP3 #include <sys/types.h> #include <sys/stat.h> #include <fcntl.h> #include <unistd.h> #include <time.h> #include <dirent.h> #include <sys/stat.h> #include <sys/types.h> #include <glob.h> #inc…...

编程日记 2025/9/8 4:37:05

YOLO检测目标后实现距离测量

当我们使用YOLO检测器得到检测结果后&#xff0c;我们如何计算检测的物体距离相机的位置呢&#xff1f; 目前&#xff0c;有三种较为主流的距离计算方法&#xff0c;分别是单目测距、双目测距以及基于深度估计的测距方法。 单目测距 工作原理&#xff1a;单目测距使用一个摄像…...

编程日记 2025/9/3 0:45:10

js 效果展示 拿去练手

自学完整功能&#xff0c;拿去练手。 鼠标移动放大 通过网盘分享的文件&#xff1a;图片放大 链接: https://pan.baidu.com/s/1w8SjtKi4kUNDnZtRDfYMeQ?pwd95p6 提取码: 95p6 通过网盘分享的文件&#xff1a;图片动画效果 链接: https://pan.baidu.com/s/1Pjphx-Cc4HQQNNujr…...

编程日记 2025/9/7 17:58:36

【算法】 欧拉函数与欧拉降幂 python

欧拉函数 欧拉函数 ϕ ( n ) \phi(n) ϕ(n) 表示小于等于 n 的正整数中与 n 互质的数的个数。即&#xff1a; ϕ ( n ) ∣ { k ∈ Z ∣ 1 ≤ k ≤ n , gcd ⁡ ( k , n ) 1 } ∣ \phi(n) \left| \{ k \in \mathbb{Z}^ \mid 1 \leq k \leq n, \gcd(k, n) 1 \} \right| ϕ(n)…...

编程日记 2025/9/7 11:14:29

Qt触摸屏隐藏鼠标指针

Qt触摸屏隐藏鼠标指针 Chapter1 Qt触摸屏隐藏鼠标指针 Chapter1 Qt触摸屏隐藏鼠标指针 使用Qt开发的屏幕软件HMI不需要显示鼠标&#xff0c;qt设置&#xff0c;可以在只启动HMI的时候隐藏光标&#xff0c;退出时再显示。 1.如果只希望在某个 widget 中不显示鼠标指针&#xf…...

编程日记 2025/9/8 15:00:17

QT聊天项目DAY01

1.新建初始项目 2.修改UI格式 运行效果 3.创建登录界面 设计登录界面UI 设计布局 调整布局间距 往水平布局中拖入标签和文本输入框 更换控件名称并固定高度 添加窗口部件 往现有的资源文件中导入图片 添加水平布局 4.设置登陆界面为主窗口的核心组件 #pragma once#include &l…...

编程日记 2025/9/9 0:45:52

Stable Diffusion +双Contronet：从 ControlNet 边缘图到双条件融合：实现服装图像生成的技术演进——项目学习记录

前言 学习记录contronet优化&#xff1a;最近&#xff0c;我基于 diffusers 库的 ControlNet&#xff0c;探索了如何通过 Canny 边缘图控制服装图像生成&#xff0c;并逐步升级到融合颜色图的双条件模型。有不断的问题、解决和进步&#xff0c;从最初的边缘图生成到最终实现 2…...

编程日记 2025/9/9 8:06:20

【Hadoop入门】Hadoop生态之Spark简介

1 什么是Spark&#xff1f; Apache Spark 是一个开源的分布式计算框架&#xff0c;专为处理大规模数据而设计。它提供了高效、通用的集群计算能力&#xff0c;支持内存计算&#xff0c;能够显著提高数据处理和分析的速度。Spark 已经成为大数据处理领域的重要工具&#xff0c;广…...

编程日记 2025/9/10 1:05:00

深度学习学习笔记

目录 摘要 Abstracts 简介 Hourglass Module&#xff08;Hourglass 模块&#xff09; 网络结构 Intermediate Supervision&#xff08;中间监督&#xff09; 训练过程细节 评测结果 摘要 本周阅读了《Stacked Hourglass Networks for Human Pose Estimation》&#xf…...

编程日记 2025/9/8 3:56:49

小米运维面试题及参考答案（80道面试题）

请讲解一下 linux top 后进程的状态 在 Linux 系统中，使用top命令可以查看系统中正在运行的进程的相关信息，进程通常有以下几种状态： 运行（R）：表示进程正在 CPU 上运行或者正在运行队列中等待运行。处于运行状态的进程正在积极地使用 CPU 资源来执行其任务。睡眠（S）：进…...

编程日记 2025/9/4 11:32:33

动态多目标优化：基于可学习预测的动态多目标进化算法（DIP-DMOEA）求解CEC2018（DF1-DF14），提供MATLAB代码

一、DIP-DMOEA介绍 基于可学习预测的动态多目标进化算法&#xff08;Learning-Based Directional Improvement Prediction for Dynamic Multiobjective Optimization&#xff0c;DIP-DMOEA&#xff09;是2024年提出的一种动态多目标进化算法&#xff0c;核心在于利用神经网络学…...

编程日记 2025/9/8 11:00:13