当前位置：首页 > news >正文

【深度学习】深度（Deep Learning）学习基础

news 来源：原创 2025/5/8 16:22:44

深度学习（Deep Learning）

深度学习是一种基于人工神经网络的机器学习方法，通过多个层次（深度）的神经网络从数据中自动学习特征和模式。它是人工智能的一个核心领域，尤其在处理复杂数据（如图像、文本、语音等）时表现出色。

深度学习的核心概念

1. 神经网络

深度学习的基础是人工神经网络，通过多个隐藏层来增强模型的表达能力。
每一层的神经元将输入数据转化为更高层次的特征，最终输出预测结果。

2. 深度结构

“深度”指的是网络包含多个隐藏层。相比传统浅层网络，深度结构可以表示更复杂的非线性关系。

3. 特征学习

深度学习可以从数据中自动提取特征，不依赖手工设计的特征工程。

4. 数据驱动

深度学习通常需要大规模数据和高性能计算资源。

深度学习的关键技术

1. 激活函数

通过引入非线性映射，使神经网络能够学习复杂关系。

ReLU（Rectified Linear Unit）: $f(x) = \max(0, x)$
Sigmoid: $\sigma(x) = \frac{1}{1 + e^{-x}}$
Tanh: $f(x) = \frac{e^x - e^{-x}}{e^x + e^{-x}}$

2. 优化算法

深度学习通过梯度下降优化网络参数。

标准梯度下降：基于整个数据集计算梯度，收敛稳定但慢。
随机梯度下降（SGD）：每次迭代仅使用一个样本，收敛快但波动大。
Adam：结合动量和学习率调整，是当前广泛使用的优化算法。

3. 正则化

防止模型过拟合的技术。

Dropout：随机丢弃一部分神经元。
L1/L2 正则化：对权重施加惩罚。

4. 损失函数

衡量模型预测值与真实值之间的差距。

回归任务：均方误差（MSE）。
分类任务：交叉熵（Cross-Entropy）。

5. 模型训练

分为前向传播和反向传播：

前向传播：输入数据经过网络得到输出。
反向传播：根据损失函数通过链式法则更新权重。

深度学习的常见模型

1. 多层感知机（MLP）

用于结构化数据（如表格数据）的基础模型。

2. 卷积神经网络（CNN）

用于图像处理，能自动学习图像的空间特征。

应用：图像分类（如 ResNet）、目标检测（如 YOLO）、语义分割。

3. 循环神经网络（RNN）

用于序列数据（如时间序列、文本）。

拓展版本：LSTM、GRU，解决长期依赖问题。

4. 生成对抗网络（GAN）

包括生成器和判别器，生成逼真的新数据。

应用：图像生成（如 DeepFake）、数据增强。

5. 自编码器（Autoencoder）

用于无监督学习，能学习数据的紧凑表示。

应用：数据降维、图像去噪。

6. Transformer

基于注意力机制，取代传统的 RNN 和 CNN。

应用：自然语言处理（如 BERT、GPT）。

深度学习框架

1. TensorFlow

由 Google 开发，支持分布式训练和生产环境部署。

2. PyTorch

由 Facebook 开发，易于研究和实验，代码直观。

3. Keras

高级 API，提供简单的深度学习建模接口。

4. MXNet

由亚马逊支持，适合大规模分布式计算。

5. JAX

Google 开发的优化计算库，用于高性能深度学习。

示例代码：手写数字识别（MNIST 数据集）

import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Flatten
from tensorflow.keras.datasets import mnist
from tensorflow.keras.utils import to_categorical# 加载数据
(X_train, y_train), (X_test, y_test) = mnist.load_data()
X_train, X_test = X_train / 255.0, X_test / 255.0
y_train = to_categorical(y_train)
y_test = to_categorical(y_test)# 构建模型
model = Sequential([Flatten(input_shape=(28, 28)),  # 展平输入Dense(128, activation='relu'),  # 全连接层Dense(64, activation='relu'),   # 隐藏层Dense(10, activation='softmax') # 输出层
])# 编译模型
model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy'])# 训练模型
model.fit(X_train, y_train, epochs=5, batch_size=32, validation_split=0.2)# 测试模型
loss, accuracy = model.evaluate(X_test, y_test)
print(f"Test Accuracy: {accuracy:.2f}")

输出结果

Epoch 1/5
1500/1500 [==============================] - 3s 2ms/step - loss: 0.2721 - accuracy: 0.9210 - val_loss: 0.1434 - val_accuracy: 0.9578
Epoch 2/5
1500/1500 [==============================] - 2s 1ms/step - loss: 0.1135 - accuracy: 0.9657 - val_loss: 0.1291 - val_accuracy: 0.9609
Epoch 3/5
1500/1500 [==============================] - 2s 1ms/step - loss: 0.0775 - accuracy: 0.9770 - val_loss: 0.0929 - val_accuracy: 0.9715
Epoch 4/5
1500/1500 [==============================] - 2s 1ms/step - loss: 0.0582 - accuracy: 0.9813 - val_loss: 0.1044 - val_accuracy: 0.9693
Epoch 5/5
1500/1500 [==============================] - 2s 1ms/step - loss: 0.0460 - accuracy: 0.9848 - val_loss: 0.0979 - val_accuracy: 0.9707
313/313 [==============================] - 0s 885us/step - loss: 0.0895 - accuracy: 0.9741
Test Accuracy: 0.97

深度学习的优缺点

优点

特征自动学习：无需手工设计特征。
强大的表达能力：适用于复杂的非线性问题。
多领域应用：在图像、语音、文本等领域表现优异。

缺点

数据需求量大：需要大量标注数据。
计算成本高：需要高性能硬件。
可解释性差：模型内部难以解释。

应用领域

计算机视觉：目标检测、图像分类。
自然语言处理：机器翻译、文本生成。
语音处理：语音识别、语音合成。
医疗：癌症检测、药物发现。
金融：风险预测、交易策略优化。

【深度学习】深度（Deep Learning）学习基础

深度学习（Deep Learning） 深度学习是一种基于人工神经网络的机器学习方法，通过多个层次（深度）的神经网络从数据中自动学习特征和模式。它是人工智能的一个核心领域，尤其在处理复杂数据（如图像、…...

编程日记 2025/5/8 16:22:44

121 买入股票的最佳时机

思路1： 买的那天一定是卖的那天之前的最小值。每到一天，维护那天之前的最小值即可。假设第一天是最小值，最大值初始化为0，当以后某天的价格小于最小值时，将最小值更新当天价格大于最小值，说明有利可图…...

编程日记 2025/5/8 14:42:36

JVM之Java内存模型

Java内存模型（Java Memory Model，简称JMM）是Java虚拟机（JVM）规范中定义的一套规则，用于描述多线程环境下变量如何被访问和同步。在多线程编程中，内存模型的重要性不言而喻，它直接关系…...

编程日记 2025/5/6 7:06:33

matlab系列专栏-快捷键速查手册

目录 1在命令窗口(Command Window)中 2. 在编辑器(Editor)（m文件）中 1在命令窗口(Command Window)中 1)【↑、↓】——切换到之前、之后运行过的命令，可以重复按多次来达到想要的命令。 2)【Tab】——自动补全。在Command窗口&#xff0c…...

编程日记 2025/5/8 15:36:52

快手一面-面经

1. RPC和Http的区别？ RPC（Remote Procedure Call，远程过程调用）和 HTTP（HyperText Transfer Protocol，超文本传输协议）是两种不同的通信机制，它们有不同的用途、工作原理和应用场景…...

编程日记 2025/5/4 0:43:41

＜style lang=“scss“ scoped＞: 这是更常见的写法，也是官方文档中推荐的写法

这两种写法在大多数情况下是没有区别的，它们都是 Vue.js 单文件组件 (.vue 文件) 中用来定义组件私有样式的方式。两种写法： <style lang"scss" scoped>: 这是更常见的写法，也是官方文档中推荐的写法。<style scoped l…...

编程日记 2025/5/6 6:03:14

cerebro连接es报错 io.netty.handler.codec.DecoderException: javax.net.ssl.SSLHandshakeException: (certificate_unknown) Received fatal alert: certificate_unknown 在cerebro的application.conf配置文件中添加 play.ws.ssl.loose.acceptAnyCertificate true Disab…...

编程日记 2025/4/29 3:38:20

网络安全常见的问题

1. 什么是 DDoS 攻击？如何防范？ 答：DDoS 攻击是指利用大量的计算机或者其他网络设备，同时向目标网络或者服务器发送大量的数据流量，以致其无法正常工作，从而导致网络瘫痪或者服务器宕机的攻击行为。 …...

编程日记 2025/5/7 8:15:54

Eclipse配置Tomcat服务器(最全图文详解)

前言： 本章使用图文讲解如何在Eclipse开发工具中配置Tomcat服务器、如何创建和启动JavaWeb工程，欢迎童鞋们互相交流。觉得不错可以三连订阅喔。目标： 一、配置Tomcat服务器 1. 切换Eclipse视图 2. 打开菜单 3. 找到服务选项 4. 选择…...

编程日记 2025/5/6 6:04:43

mv指令详解

🏝️专栏：https://blog.csdn.net/2301_81831423/category_12872319.html 🌅主页：猫咪-9527-CSDN博客 “欲穷千里目，更上一层楼。会当凌绝顶，一览众山小。” 目录基本语法主要功能常用选项详解 1. …...

编程日记 2025/4/23 12:49:11

SQL从入门到实战

学前须知 sqlzoo数据介绍 world nobel covid ge game、goal、eteam teacher、dept movie、casting、actor 基础语句 select&from SELECT from WORLD Tutorial - SQLZoo 基础查询select单列&多列&所有列&别名应用例题一 SELECT name, continent, population …...

编程日记 2025/5/3 22:36:04

回归中医传统重铸中医之魂 — 薛应中 —

最近做了一个20次课的讲义纲要,每节课都是中医理念下某一类疾病的认知与诊疗,或是一个重大健康观念的辨析,准备陆续和各届人士一起探讨。下面就算是一个序言,主要是做一个自我介绍,将自己的一点心得,结合我的行医经历,以及学习中医的治学之道等,做一个开场白。 (一)中医的有…...

编程日记 2025/5/5 17:45:28

什么是面向对象？

面向对象编程（Object-Oriented Programming，简称OOP）是一种流行的编程方法，它以对象和类为基础构建软件。该编程范式围绕“对象”这一基本概念展开，其中对象被视为包含数据和行为的软件构件。以下是对面向对象编程的深…...

编程日记 2025/5/5 13:26:54

HDFS读写流程

因为namenode维护管理了文件系统的元数据信息，这就造成了不管是读还是写数据都是基于NameNode开始的，也就是说NameNode成为了HDFS访问的唯一入口。入口地址是：http://nn_host:8020。一、写数据流程 1.1 Pipeline管道、ACK应答响应 Pipeline…...

编程日记 2025/5/8 3:19:09

HDFS Federation联邦机制

一、当前HDFS体系架构 1.1 简介当前的HDFS架构有两个主要的层： 命名空间（namespace） HDFS体系结构中的命名空间层由文件，块和目录组成。该层支持与名称空间相关的文件系统操作，例如创建，删除&#xff0…...

编程日记 2025/5/2 11:44:00

机器学习周报-ModernTCN文献阅读

文章目录摘要Abstract 0 提升有效感受野（ERF）1 相关知识1.1 标准卷积1.2 深度分离卷积（Depthwise Convolution，DWConv）1.3 逐点卷积（Pointwise Convolution，PWConv）1.4 组卷积(Grou…...

编程日记 2025/5/6 17:52:53

QT RC_FILE 应用程序图标设置

1.先做一个app.ico 文件，并将文件放入资源文件夹中 2.打开QT项目的.pro文件在最下面增加 RC_FILE $$PWD/res/app.rc 3.在资源文件夹中创建一个app.rc文件。在QT开发工具中编辑并输入下在内容 IDI_ICON1 ICON "app.ico" 4.测试效果...

编程日记 2025/5/8 15:13:49

5G学习笔记之SNPN系列之网络选择

目录 0. NPN系列 1. 概述 2. 自动网络选择 3. 手动网络选择 0. NPN系列 1. NPN概述 2. NPN R18 3. 【SNPN系列】SNPN ID和广播消息 4. 【SNPN系列】UE入网和远程配置 5. 【SNPN系列】SNPN选择 6. PNI-NPN 1. 概述对于某个特定的UE，可以仅支持SNPN接入模式&#x…...

编程日记 2025/5/5 6:08:35

k8s helm部署kafka集群(KRaft模式)——筑梦之路

添加helm仓库 helm repo add bitnami "https://helm-charts.itboon.top/bitnami" --force-update helm repo add grafana "https://helm-charts.itboon.top/grafana" --force-update helm repo add prometheus-community "https://helm-charts.itboo…...

编程日记 2025/5/8 11:16:38

Redis学习笔记

目录 Nosql概述为什么用Nosql 什么是Nosql Nosql四大分类 Redis入门概述 Windows安装 Linux安装测试性能基础知识五大数据类型 Redis-Key String(字符串) List（列表） Set(集合) Hash（哈希） Zset（有…...

编程日记 2025/4/28 9:19:47

mysql递归查询语法WITH RECURSIVE

WITH RECURSIVE 是 SQL 中用于执行递归查询的语法，特别适合于处理层级结构或递归数据（如树形结构、图结构）。递归查询可以反复引用自己来查询多层次的数据，而无需写多个嵌套查询。基本语法结构： WITH RECURSIVE CTE…...

编程日记 2025/4/17 2:22:14

Go语言之十条命令（The Ten Commands of Go Language）

Go语言之十条命令 Go语言简介 Go语言（又称Golang）‌是由Google开发的一种开源编程语言，首次公开发布于2009年。Go语言旨在提供简洁、高效、可靠的软件开发解决方案，特别强调并发编程和系统编程‌。 Go语言的基本特征 ‌静态强类…...

编程日记 2025/4/28 12:30:42

Visual Studio 2022 C++ gRPC 环境搭建

文章目录 1、gRPC 安装2、创建项目2.1、创建 “空的解决方案”2.2、新建 gRPCServer 和 gRPCClient 项目2.3、创建 proto 文件 2、为 gRPC 服务端和客服端项目配置 protobuf 编译2.1、protobuf 配置2.2、gRPCServer 项目配置2.3、gRPCClient 项目配置 3、测试3.1、启动服务端程…...

编程日记 2025/5/7 20:55:15

2024AAAI SCTNet论文阅读笔记

文章目录 SCTNet: Single-Branch CNN with Transformer Semantic Information for Real-Time Segmentation摘要背景创新点方法Conv-Former Block卷积注意力机制前馈网络FFN 语义信息对齐模块主干特征对齐共享解码头对齐总体架构backbone解码器头对齐损失实验SOTA效果对比Cit…...

编程日记 2025/4/25 14:54:59

【Java从入门到放弃之 final 关键字】

final 关键字 final 关键字final 字段final 函数列表中的参数final 方法final 类 final 关键字 Java中里面有final这个关键字，这个关键字总体上是用来表达” 不能被改变“ 这个意思的。我们使用这个关键字表达不能被改变，有两种使用场景，有三…...

编程日记 2025/5/6 3:32:59

【U8+】用友U8软件中，出入库流水输出excel的时候提示报表输出引擎错误。

【问题现象】通过天联高级版客户端登录拥有U8后， 将出入库流水输出excel的时候，提示报表输出引擎错误。进行报表输出时出现错误，错误信息：找不到“fd6eea8b-fb40-4ce4-8ab4-cddbd9462981.htm”。如果您正试图从最近使用的文件列…...

编程日记 2025/5/7 17:37:57

文本区域提取和分析——Python版本

目录 1. 图像预处理 2. 文本区域提取 3. 文本行分割 4. 文本区域分析 5. 应用举例总结文本区域提取和分析是计算机视觉中的重要任务，尤其在光学字符识别（OCR）系统、文档分析、自动化数据录入等应用中有广泛的应用。其目标是从图像中提…...

编程日记 2025/5/4 8:12:28

数据库介绍（不同数据库比较）

文章目录 **一、关系型数据库（RDBMS）****1. MySQL****优点**：**缺点**：**适用场景**： **2. PostgreSQL****优点**：**缺点**：**适用场景**： **3. Oracle Database****优点**&#xff…...

编程日记 2025/5/1 5:38:24

注意力的简单理解，有哪些注意力（Attention）

注意力（Attention）目录注意力（Attention）掩码注意力机制自注意力、交叉注意力、掩码注意力的不同点适应场景及举例多头注意分层注意力（Hierarchical Attention）协同注意力（Co - Attention）自注意力（Self - Attention）简单理解：自注意力就像是一个句子（或序列）内…...

编程日记 2025/4/28 1:17:21

基于Python的投资组合收益率与波动率的数据分析

基于Python的投资组合收益率与波动率的数据分析摘要：該文通过研究马科维茨的投资组合模型，并将投资组合模型应用到包含6只金融股票的金融行业基金中。首先通过开源的财经接口Tushare获取股票原始数据，接着利用数据分析的黄金组合库&#xf…...

编程日记 2025/5/5 17:45:27

《Opencv》图像的旋转

一、使用numpy库实现 np.rot90(img,-1) 后面的参数为-1时事顺时针旋转，为1时是逆时针旋转。 import cv2 import numpy as np img cv2.imread(./images/kele.png) """方法一""" # 顺时针90度 rot_1 np.rot90(img,-1) # 逆时针90度…...

编程日记 2025/5/6 0:28:02

Python 22:注释

1. 定义： 用熟悉的语言对代码进行解释说明。注释不会被执行。 2. 注释分类单行注释：只能对一行代码进行注释。放在要注释的代码后面，用#进行分隔，中间至少空2个空格，保证代码规范。 print("hello world10"…...

编程日记 2025/4/30 2:42:46

python：利用神经网络技术确定大量离散点中纵坐标可信度的最高集中区间

当我们有许多离散点并想要确定纵坐标在某个区间内的可信度时，我们可以使用神经网络模型来解决这个问题。下面是一个使用Python编写的示例代码，展示了如何使用神经网络来确定大量离散点中纵坐标可信度的最高集中区间。 import numpy as np from sklearn.…...

编程日记 2025/5/8 9:40:28

计算机软件保护条例

(2001年12月20日中华人民共和国国务院令第339号公布　根据2011年1月8日《国务院关于废止和修改部分行政法规的决定》第一次修订　根据2013年1月30日《国务院关于修改〈计算机软件保护条例〉的决定》第二次修订) 第一章　总则第一条　为了保护计算机软件著作权人的权益&#…...

编程日记 2025/5/5 5:24:15

CM3/4启动流程

CM3/4启动流程 1. 启动模式2. 启动流程 1. 启动模式复位方式有三种：上电复位，硬件复位和软件复位。当产生复位，并且离开复位状态后，CM3/4 内核做的第一件事就是读取下列两个 32 位整数的值： 从地址 0x0000 0000 处取…...

编程日记 2025/5/8 14:57:44

gaussdb中怎么查询一个表有多少GB

在 GaussDB 中，你可以通过多种方法查询一个表的大小，包括使用系统视图和内置函数。以下是几种常见的方法： 1. 使用 pg_total_relation_size 函数 pg_total_relation_size 函数返回一个表及其所有索引和 TOAST 数据的总大小。示例查询 SE…...

编程日记 2025/5/6 14:06:37

2025-01-06 Unity 使用 Tip2 —— Windows、Android、WebGL 打包记录

文章目录 1 Windows2 Android2.1 横版 / 竖版游戏2.2 API 最低版本2.3 目标帧率2.3.1 targetFrameRate2.3.2 vSyncCount2.3.3 Unity 默认设置以及推荐设置2.3.4 Unity 帧率托管 3 WebGL3.1 平台限制3.2 打包报错记录 13.3 打包报错记录 2 最近尝试将写的小游戏打包&#xff…...

编程日记 2025/5/8 14:10:36

OP-TEE环境飞腾密码引擎编程指南

【写在前面】飞腾开发者平台是基于飞腾自身强大的技术基础和开放能力，聚合行业内优秀资源而打造的。该平台覆盖了操作系统、算法、数据库、安全、平台工具、虚拟化、存储、网络、固件等多个前沿技术领域，包含了应用使能套件、软件仓库、软件支持、软件适…...

编程日记 2025/5/6 22:58:59

解密Navicat密码（Java）

最近从Navicat换到了DBeaver，导出配置文件发现配置文件里的密码都是加密的，看网上的都是给的PHP代码，因为环境问题，就算是在线上运行的PHP代码也会报错，所以就把这段代码改成Java了。 package com.unicdata.system.con…...

编程日记 2025/5/6 6:17:44

apex安装

安装过程复杂曲折，网上说的很多办法，貌似成功了，实际还是没起作用。先说成功过程，执行下面命令，安装成功（当然，前提是你要先配置好编译环境）： （我的环境&a…...

编程日记 2025/5/6 6:04:51

常见的开源网络操作系统

常见的开源网络操作系统有很多，它们通常用于路由器、交换机、网络设备和服务器等场景，具有灵活、可定制、易于扩展的特点。以下是一些常见的开源网络操作系统： OpenWRT 用途：主要用于路由器、无线接入点和网络设备。提供了广泛的定制选项和高级功能，如防火墙配置、VPN 支持…...

编程日记 2025/4/20 5:40:54

2024年6月英语六级CET6听力原文与解析

目录 0 序言 1.Long Conversation(长对话) 1.1 Blender 搅拌机 1.2 村庄的改造变化 2.Passage 2.1 micro robots 微型机器人 2.2 elite sleeper 睡眠精英 3.Lecture 3.1 对自身观念变化的低察觉度及相关研究发现 3.2 美国母亲群体数量变化及母亲节消费趋势分析 3.3 …...

编程日记 2025/5/4 10:40:08