当前位置：首页 > news >正文

文章四《深度学习核心概念与框架入门》

news 来源：原创 2025/5/9 1:26:29

文章4：深度学习核心概念与框架入门——从大脑神经元到手写数字识别的奇幻之旅

引言：给大脑装个"GPU加速器"？

想象一下，你的大脑如果能像智能手机的GPU一样快速处理信息会怎样？这正是深度学习的终极目标！今天，我们将从零开始搭建一个能"看懂"手写数字的小型AI大脑。准备好你的Python和显卡（别担心，笔记本CPU也能跑通代码！），让我们开始这场神经网络冒险吧！

一、深度学习与神经网络基础：大脑的"数字克隆"

1.1 神经元的数字化重生

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
（想象这是一张神经元结构图，每个突触对应权重，树突接收输入，轴突输出信号）

数学表达式：
$\sigma(w_1x_1 + w_2x_2 + ... + b)$

$x_i$ ：输入信号（比如像素值）
$w_i$ ：突触权重（需要学习的参数）
$b$ ：偏置项（打破对称性的关键）
$\sigma$ ：激活函数（决定神经元"兴奋程度"）

1.2 前向传播：快递员的送货路线

把输入数据想象成包裹，前向传播就是从仓库到客户的完整送货路径：

def forward(input_data):layer1 = activation(weights1 @ input_data + bias1)output = activation(weights2 @ layer1 + bias2)return output

1.3 反向传播：快递员的反向寻路

当包裹地址错误时（模型预测错误），我们需要通过"误差"追踪路线问题：

# 简化版反向传播伪代码
loss = calculate_error(predicted, actual)
loss.backward()  # 自动计算所有路径的误差贡献度
optimizer.step()  # 根据误差调整所有权重

1.4 损失函数：快递公司的KPI

均方误差（MSE）：适合回归任务，像计算快递距离误差
交叉熵损失（Cross Entropy）：分类任务的黄金标准，惩罚"过于自信的错误"

二、全连接网络实战：TensorFlow vs PyTorch

2.1 教练与球员的比喻

TensorFlow（Keras）：像组织严密的足球俱乐部
PyTorch：更像灵活的街头足球团队

2.2 代码对决：搭建相同神经网络

TensorFlow 2.x 版本（静态图思维）

from tensorflow.keras import layers, modelsmodel = models.Sequential([layers.Dense(128, activation='relu', input_shape=(784,)),layers.Dense(10, activation='softmax')
])model.compile(optimizer='adam',loss='sparse_categorical_crossentropy',metrics=['accuracy'])

PyTorch 版本（动态图思维）

import torch.nn as nnclass Net(nn.Module):def __init__(self):super().__init__()self.fc = nn.Sequential(nn.Linear(784, 128),nn.ReLU(),nn.Linear(128, 10),nn.Softmax(dim=1))def forward(self, x):return self.fc(x.view(-1, 784))

关键差异对比表

特性	TensorFlow(Keras)	PyTorch
运行模式	默认静态图（编译后再运行）	动态计算图（即时执行）
数据流控制	高阶API抽象	手动控制张量流动
GPU加速	自动检测可用设备	需显式调用`.cuda()`
调试友好性	图结构复杂，断点调试困难	支持逐层调试

三、激活函数与优化器：神经网络的"兴奋剂"和"教练"

3.1 激活函数的选择艺术

import matplotlib.pyplot as plt
import numpy as npx = np.linspace(-5,5,100)
plt.figure(figsize=(12,4))# ReLU激活函数
plt.subplot(131)
plt.plot(x, np.where(x>0, x, 0))
plt.title("ReLU: 0或线性输出")# Sigmoid激活函数
plt.subplot(132)
plt.plot(x, 1/(1+np.exp(-x)))
plt.title("Sigmoid: 挤进0-1区间")# Tanh激活函数
plt.subplot(133)
plt.plot(x, np.tanh(x))
plt.title("Tanh: 在-1到1间摇摆")
plt.show()

3.2 优化器的进化史

# 不同优化器的"训练哲学"
optimizers = {'SGD': torch.optim.SGD(model.parameters(), lr=0.1),'Adam': torch.optim.Adam(model.parameters(), lr=0.001),'RMSprop': torch.optim.RMSprop(model.parameters(), lr=0.01)
}# 实验建议：尝试更换优化器，观察训练曲线

四、实战案例：让AI认数字（MNIST手写识别）

4.1 数据集可视化：看看这些"抽象画"

import torchvision
from matplotlib import pyplot as plt# 加载训练数据
transform = torchvision.transforms.ToTensor()
trainset = torchvision.datasets.MNIST(root='./data', train=True, download=True, transform=transform)
images = trainset.data[:10].numpy()plt.figure(figsize=(10,2))
for i in range(10):plt.subplot(1,10,i+1)plt.imshow(images[i], cmap='gray')plt.axis('off')
plt.show()

4.2 训练过程可视化：看模型如何"开窍"

# 训练时实时绘制曲线
from torch.utils.tensorboard import SummaryWriter
writer = SummaryWriter('runs/mnist_experiment')for epoch in range(epochs):# ...训练代码...writer.add_scalar('Training Loss', loss.item(), epoch)writer.add_scalar('Accuracy', accuracy, epoch)# 运行 tensorboard --logdir=runs 查看实时可视化

4.3 训练成果：模型预测表演秀

test_image = testset.data[0].unsqueeze(0).float()/255.0
prediction = model(test_image).argmax().item()plt.imshow(test_image[0][0], cmap='gray')
plt.title(f"I think this is a {prediction}!")
plt.show()

五、进阶彩蛋：神经网络的"黑箱"揭秘

5.1 权重可视化：看看神经元都学了什么

# 查看第一层卷积核（假设用了卷积层）
filters = model.conv1.weight.detach().numpy()
fig = plt.figure(figsize=(8,8))
for i in range(16):ax = fig.add_subplot(4,4,i+1)ax.imshow(filters[i][0], cmap='viridis')ax.axis('off')
plt.suptitle("第一层神经元的'视觉'偏好")

5.2 消失/爆炸梯度的侦探游戏

# 检查梯度分布
for name, param in model.named_parameters():if param.grad is not None:print(f"Layer {name}: grad mean={param.grad.mean():.4f}, std={param.grad.std():.4f}")

结语：你已拥有改变世界的基础能力！

现在，你不仅会用Python搭建神经网络，还能像科学家一样理解其运作原理。记住：

TensorFlow适合企业级部署，PyTorch适合科研探索
ReLU是隐层的标配激活函数
Adam优化器是懒人的最佳选择

下次当你看到数字时，不妨想一想——你的AI"学生"现在已经开始用它自己的方式理解这个世界了！

课后挑战：尝试修改网络结构（添加Dropout层、调整学习率），看看模型表现如何变化？把你的"最佳实践"发到GitHub，让全世界的AI新手都能学习你的经验！

文章四《深度学习核心概念与框架入门》

文章4：深度学习核心概念与框架入门——从大脑神经元到手写数字识别的奇幻之旅引言：给大脑装个"GPU加速器"？ 想象一下，你的大脑如果能像智能手机的GPU一样快速处理信息会怎样？这正是深度学习的终极目标&…...

编程日记 2025/5/9 1:26:29

HTML5+JavaScript实现连连看游戏之二

HTML5JavaScript实现连连看游戏之二以前一篇，见 https://blog.csdn.net/cnds123/article/details/144220548 连连看游戏连接规则： 只能连接相同图案（或图标、字符）的方块。连线路径必须是由直线段组成的，最多可以有…...

编程日记 2025/5/3 6:02:31

2025年- H19-Lc127-48.旋转矩阵（矩阵）---java版

1.题目描述 2.思路画出矩阵，新的旋转矩阵的列坐标等于原始矩阵的矩阵长度-i-1（也就是减去当前遍历的i），前后对调。然后新的旋转矩阵的横坐标，是原始矩阵的列坐标。 3.代码实现 public class H48 {public void rota…...

编程日记 2025/5/3 6:02:30

深入理解 MyBatis 代理机制

在 Java 开发领域，MyBatis 是一款优秀的持久层框架，它极大地简化了数据库操作，提高了开发效率。其中，代理机制作为 MyBatis 的核心特性之一，在连接 Java 代码与数据库操作中发挥着关键作用。本文将深入探讨 MyBatis 代…...

编程日记 2025/5/3 6:01:29

游戏引擎学习第254天:重新启用性能分析

运行游戏并尝试让性能分析系统恢复部分功能我们现在的调试系统这几天基本整理得差不多了，因此我们打算开始清理一些功能，比如目前虽然已经在收集性能分析数据，但我们没有办法查看或有效利用这些信息。今天的计划可能会围绕这方面展开&#…...

编程日记 2025/5/9 1:04:00

性能测试工具篇

文章目录目录1. JMeter介绍1.1 安装JMeter1.2 打开JMeter1.3 JMeter基础配置1.4 JMeter基本使用流程1.5 JMeter元件作用域和执行顺序 2. 重点组件2.1 线程组2.2 HTTP取样器2.3 查看结果树2.4 HTTP请求默认值2.5 JSON提取器2.6 用户定义的变量2.7 JSON断言2.8 同步定时器&#…...

编程日记 2025/5/3 6:01:28

【Hive入门】Hive性能调优之Join优化：深入解析MapJoin与Sort-Merge Join策略

目录前言 1 Hive Join操作基础 1.1 Join操作的类型与挑战 1.2 Hive Join执行机制 2 MapJoin优化策略 2.1 MapJoin原理 2.2 MapJoin适用场景 2.3 MapJoin关键参数 3 Sort-Merge Join优化策略 3.1 Sort-Merge Join原理 3.2 Sort-Merge Join优势 3.3 关键配置参数 3…...

编程日记 2025/5/9 1:21:59

【Unity】使用XLua实现C#访问Lua文件

先引入XLua文件中的Plugins和XLua文件夹于Unity项目的Asset文件中 XLua_github链接建立Lua虚拟机：LuaEnv luaEnv new LuaEnv(); 关闭虚拟机，及时释放资源：luaEnv.Dispose(); Resources文件夹下加载lua文件（假设文件路径为Resour…...

编程日记 2025/5/3 6:00:25

AXI中的out of order和interleaving的定义和两者的差别？

AXI中的out of order和interleaving的定义和两者的差别摘要：在 AXI (Advanced eXtensible Interface) 协议中，Out-of-Order 和 Interleaving 是两个与事务处理顺序和数据传输相关的概念，它们都与 AXI 协议支持的多事务并发处理能力有关&…...

编程日记 2025/5/2 23:20:30

生产级RAG系统一些经验总结

本文将探讨如何使用最新技术构建生产级检索增强生成(RAG)系统，包括健壮的架构、向量数据库(Faiss、Pinecone、Weaviate)、框架(LangChain、LlamaIndex)、混合搜索、重排序器、流式数据接入、评估策略以及实际部署技巧。引言：检索增强生成的力量大型语…...

编程日记 2025/5/8 10:39:56

sftp连接报错Received message too long 168449893

sftp连接报错Received message too long 168449893 一、openEuler传文件报错二、分析问题三、解决问题endl 一、openEuler传文件报错 [rootRocky9-12 ~]# scp apache-tomcat-10.1.33.tar.gz root10.0.0.14:Authorized users only. All activities may be monitored and report…...

编程日记 2025/5/2 21:53:34

Java中修饰类的关键字

Java中修饰类的关键字在web编程课上，老师提问了Java中各种修饰类的关键字的用途和区别，一时间我头脑空白，现在课后重新梳理一遍Java中修饰类的各种关键字的区别和用法。在Java编程中，修饰类的关键字起着至关重要的作用&#xff…...

编程日记 2025/5/2 21:48:22

2025年人工智能火爆技术总结

2025年人工智能火爆技术总结： 生成式人工智能生成式人工智能可生成高质量的图像、视频、音频和文本等多种内容。如昆仑万维的SkyReels-V2能生成无限时长电影，其基于扩散强迫框架，结合多模态大语言模型和强化学习等技术，在运动动…...

编程日记 2025/5/2 21:27:42

脑机接口技术：开启人类与机器的全新交互时代

在科技飞速发展的今天，人类与机器的交互方式正经历着前所未有的变革。从最初的键盘鼠标，到触摸屏，再到语音控制，每一次交互方式的升级都极大地提升了用户体验和效率。如今，脑机接口（Brain-Computer Interfa…...

编程日记 2025/5/4 17:30:10

Arduino程序函数详解与实际案例

一、Arduino程序的核心架构与函数解析 Arduino程序的核心由两个函数构成：setup() 和 loop()。这两个函数是所有Arduino代码的骨架，它们的合理使用决定了程序的结构和功能。 1.1 setup() 函数：初始化阶段 setup() 函数在程序启动时仅执行一次，用于完成初始化配置，例如设置…...

编程日记 2025/5/9 1:08:20

2025年RAG技术发展现状分析

2025年，大模型RAG（检索增强生成）技术经历了快速迭代与深度应用，逐渐从技术探索走向行业落地，同时也面临安全性和实用性的新挑战。以下是其发展现状的综合分析： 一、技术架构的持续演进从单一到模块化架构 …...

编程日记 2025/5/7 12:20:47

C++11新特性_范围-based for 循环

based for 循环介绍范围 - based for 循环（Range-based for loop）是 C11 引入的一种新的 for 循环语法，它可以更简洁地遍历容器和数组。遍历数组：定义了一个整数数组 arr，使用范围 - based for 循环 for (int num :…...

编程日记 2025/5/2 20:34:50

小牛电动：荣登央视舞台，引领智能出行新潮流

在这个科技飞速发展的时代，出行方式也在不断地变革与创新。而在两轮电动车领域，有一个品牌凭借其卓越的技术、独特的设计和优质的服务脱颖而出，那就是小牛电动。近日，小牛电动荣登央视舞台，成为备受瞩目的焦点&#xf…...

编程日记 2025/5/2 20:34:49

Three.js在vue中的使用（一）-基础

Three.js 是一个基于 WebGL 的 JavaScript 3D 图形库，它简化了在网页中创建和渲染 3D 场景的复杂性。Three.js 提供了丰富的功能，如光照、材质、几何体、动画、控制器等，使得开发者可以快速构建交互式的 3D 应用。 🧠 Three.js 原理概述 1. WebGL 基础 Three.js 底层使用…...

编程日记 2025/5/2 20:29:38

开发板型号 ESP32-DevKitC-32模块型号 ESP32-WROOM-32 和主控芯片 ESP32-D0WDQ6-V3

以下是关于开发板型号 ESP32-DevKitC-32、模块型号 ESP32-WROOM-32 和主控芯片 ESP32-D0WDQ6-V3 的详细介绍： 开发板型号：ESP32-DevKitC-32 概述：ESP32-DevKitC 是乐鑫推出的一款基于 ESP32 模组的小型开发板，板上模组的绝大部…...

编程日记 2025/5/2 20:26:31

【C语言练习】015. 声明和初始化指针

015. 声明和初始化指针 015. 声明和初始化指针1. 声明指针示例1：声明一个指向整数的指针2. 初始化指针示例2：将指针初始化为`NULL`示例3：将指针初始化为某个变量的地址示例4：将指针初始化为动态分配的内存地址3. 使用指针访问和修改变量的值示例5：使用指针访问和修改变量的…...

编程日记 2025/5/7 8:37:25

手撕哈希表

引入：unordered_set /map是什么？ 库里面除开set和map，还有unordered_set 和 unordered_map，区别在于： ①：set和map的底层结构是红黑树，而unordered_set和unordered_map的底层是哈希表 ②&…...

编程日记 2025/5/4 10:54:02

编程题python常用技巧-持续

1.字典 1.1排序在Python中，要按照字典的值进行排序，可以按照以下步骤操作： 方法说明 ‌获取键值对列表‌：使用 dict.items() 获取字典的键值对视图。‌排序键值对‌：使用 sorted() 函数，并通过 key 参…...

编程日记 2025/5/2 20:01:29

大模型蒸馏技术

提问：请写一篇关于蒸馏大模型的详细解说（论文），要求配有图并不少于8000字。 Deepseek： 大模型蒸馏技术：原理、方法与产业实践 ——基于知识压缩与效率优化的深度解析目录引言：大模型时代的…...

编程日记 2025/5/8 20:33:33

深入理解C语言中的整形提升与算术转换

深入理解C语言中的整形提升与算术转换一.整形提升：概念与原理在C语言中，整形提升（Integer Promotion）是一个重要但容易被忽视的概念。它指的是在表达式中，任何小于int类型的整型（如char、short&#xf…...

编程日记 2025/5/8 19:16:53

企业经营系统分类及功能详解

近年来互联网行业下行，招聘少，要求离谱，年龄学历背景已经卡的死死的，技术再突出也没用。但对于软件开发来说，互联网只是一小部分，企业级系统软件开发，虽然不如互联网大起大落，但重…...

编程日记 2025/5/9 1:16:04

IRF2.0IRF3.1

1、IRF3定义 IRF3是一种能够提高网络接入层的接入能力和管理效率的纵向网络整合虚拟化技术，采用IEEE 802.1BR标准协议实现。IRF3将多台PEX设备（Bridge Port Extender）连接到父设备（Parent device）上，将每台…...

编程日记 2025/5/2 19:48:52

【C++】类和对象【中下】

目录一、类与对象1、运算符重载1.2 赋值运算符重载1.3 <<运算符和>>运算符1.4 前置与后置 2、 const成员函数3、取地址运算符重载个人主页<—请点击 C专栏<—请点击一、类与对象本期的主题是一步步完善日期类的编写，将要讲解的知识融入在代…...

编程日记 2025/5/4 17:32:18

ThreadLocal详解

什么是 ThreadLocal？ ThreadLocal 是 Java 中的一个工具类，用于为每个线程提供独立的变量副本，使得每个线程可以独立操作自己的变量，避免多线程环境下的数据竞争问题。它的核心思想是线程封闭（Thread Confi…...

编程日记 2025/5/4 5:05:52

Vue3 + OpenLayers 企业级应用进阶

1. 企业级架构设计 1.1 微前端架构集成 // src/micro-frontend/map-container.ts import { Map } from ol; import { registerMicroApps, start } from qiankun;export class MapMicroFrontend {private map: Map;private apps: any[];constructor(map: Map) {this.map map;…...

编程日记 2025/5/2 19:13:19

如何提升自我执行力？

提升个人执行力是一个系统性工程，需要从目标管理、习惯养成、心理调节等多方面入手。以下是具体方法，结合心理学和行为科学原理，帮助你有效提升执行力： 一、明确目标：解决「方向模糊」问题 1. 用SMART原则设定目标 …...

编程日记 2025/5/8 20:38:48

L3-041 影响力

下面给出基于“切比雪夫距离”（Chebyshev 距离）之和的高效 O(nm) 解法。核心思想是把 ∑ u 1 n ∑ v 1 m max ⁡ ( ∣ u − i ∣ , ∣ v − j ∣ ) \sum_{u1}^n\sum_{v1}^m\max\bigl(|u-i|,|v-j|\bigr) u1∑nv1∑mmax(∣u−i∣,∣v−j∣) 拆成两个…...

编程日记 2025/5/4 0:07:18

【ESP32】st7735s + LVGL使用-------图片显示

【ESP32】st7735s + LVGL使用-------图片显示 1、文件准备2、工程搭建3、代码编写4、应用部分5、函数调用6、显示效果移植部分参考这个博客：【ESP32】st7735s + LVGL移植 1、文件准备本次图片放在内部存储，先使用转换工具将要显示的图片转换好。文件名保存为xx.c，xx这…...

编程日记 2025/5/8 3:50:45

MERGE存储引擎(介绍,操作),FEDERATED存储引擎(介绍,操作),不同存储引擎的特性图

目录 MERGE存储引擎(合并) 介绍创建表语法示例查看.mrg文件操作查询结果示例重建逻辑表 FEDERATED存储引擎结盟介绍编辑应用场景操作开启创建表对本地表进行数据插入 EXAMPLE存储引擎不同存储引擎的特性编辑 MERGE存储引擎(合并) 介绍…...

编程日记 2025/5/3 23:19:05

初学者如何学习AI问答应用开发范式

本文是根据本人2年大模型应用开发5年小模型开发经验，对AI问答应用的开发过程进行总结。技术范式现在超过80%的AI问答是提示词大模型， 然后就是RAG 方案，这两种无疑是主流方案。 1、提示词大模型适合于本身业务不超过大模型的知识范围…...

编程日记 2025/5/2 18:41:01

GESP2024年6月认证C++八级( 第二部分判断题（1-5））

判断题2： #include <iostream> #include <iomanip> using namespace std;int main() {double a 1e308;double b 1e-10;double orig_a a, orig_b b;a a b;b a - b;a a - b;cout << fixed << setprecision(20);cout << "…...

编程日记 2025/5/2 18:41:00

npm命令介绍（Node Package Manager）（Node包管理器）

文章目录 npm命令全解析简介基础命令安装npm（npm -v检插版本）初始化项目（npm init）安装依赖包（npm install xxx、npm i xxx）卸载依赖包（npm uninstall xxx 或 npm uni xxx、npm remove xxx&…...

编程日记 2025/5/2 18:34:45

小刚说C语言刷题—1602总分和平均分

1.题目描述期末考试成绩出来了，小明同学语文、数学、英语分别考了 x、y、z 分，请编程帮助小明计算一下，他的总分和平均分分别考了多少分？ 输入三个整数 x、y、z 分别代表小明三科考试的成绩。输出第 11行有一个整数&…...

编程日记 2025/5/2 18:26:32

python类私有变量

在Python中，要将一个属性定义为类的内部属性（也就是私有属性），通常会在属性名称前加一个下划线（_）或两个下划线（__）。这两种方式有不同的效果： 单下划线（_&a…...

编程日记 2025/5/2 18:16:15

前端如何转后端

前端转后端是完全可行的，特别是你已经掌握了 JavaScript / TypeScript，有一定工程化经验，这对你学习如 Node.js / NestJS 等后端技术非常有利。下面是一条系统化、实践导向的路线，帮助你高效完成从前端到后端的转型。 ✅ 一、评…...

编程日记 2025/5/5 5:47:42

数字智慧方案5976丨智慧农业顶层设计建设与运营方案（59页PPT）（文末有下载方式）

详细资料请看本解读文章的最后内容。资料解读：智慧农业顶层设计建设与运营方案在现代农业发展进程中，智慧农业成为推动农业转型升级、提升竞争力的关键力量。这份《智慧农业顶层设计建设与运营方案》全面且深入地探讨了智慧农业的建设现状、需求分析、…...

编程日记 2025/5/2 17:58:39

软件工程国考

软件工程-同等学力计算机综合真题及答案 （2004-2014、2017-2024） 2004 年软工第三部分软件工程 （共 30 分） 一、单项选择题（每小题 1 分，共 5 分） 软件可用性是指（ &#xff09…...

编程日记 2025/5/4 6:42:13

linux python3安装

1 安装依赖环境 yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel 2 mkdir -p /usr/python3 3 cd usr/python3; tar -zxvf Python-3.8.3.tgz;cd Python-3.8.3 4 ./confi…...

编程日记 2025/5/2 17:55:33