当前位置：首页 > news >正文

《剥开卷积神经网络CNN的 “千层酥”：从基础架构到核心算法》

news 来源：原创 2025/7/19 23:24:00

文章目录

前言
- 卷积神经网络（Convolutional Neural Network，CNN）是一种专门用于处理网格结构数据（如图像、视频、音频）的深度学习模型。它在计算机视觉任务（如图像分类、目标检测）中表现尤为出色，核心思想是通过局部感知和参数共享高效提取数据中的空间或时序特征。
一、卷积神经网络介绍
- 1. 卷积神经网络的前世今生与核心奥秘
- 2.卷积神经网络处理图像的优势
- 3、已经有了神经网络我们为什么还要去使用卷积神经网络
- 4. 什么是卷积？
- - 卷积的计算
二、卷积层
- 1.感受野
- 2.权值共享
- 3.卷积中的核心概念
- - （1）卷积核
  - （2）步长
  - （3）边界填充（Padding）
  - （5）卷积的过程
三、池化层
- 1. 最大池化(Max Pooling)和平均池化(Mean Pooling)
- (2) 全局平均池化(Global Average Pooling)
四、卷积神经网络
- 1.知名的卷积神经网络
- 2.卷积神经网络的架构

前言

卷积神经网络（Convolutional Neural Network，CNN）是一种专门用于处理网格结构数据（如图像、视频、音频）的深度学习模型。它在计算机视觉任务（如图像分类、目标检测）中表现尤为出色，核心思想是通过局部感知和参数共享高效提取数据中的空间或时序特征。

一、卷积神经网络介绍

1. 卷积神经网络的前世今生与核心奥秘

CNN 的灵感最初源于生物学研究。生物学家休博尔和维瑟尔在探索猫视觉皮层时发现，皮层细胞存在精妙构造，每个细胞只对视觉输入空间的特定小区域 “情有独钟”，这个特殊区域就叫感受野。受此启发，科研人员开始构建模拟视觉处理的神经网络模型。

1998 年，纽约大学的 Yann Lecun 推出了 LeNet-5，正式提出卷积神经网络。它本质上是多层感知机（MLP）的 “升级版”，但独特之处在于采用了局部连接和权值共享策略。打个比方，传统神经网络就像一个 “事事亲力亲为” 的工作者，每个节点都要处理所有输入信息；而 CNN 则像一个聪明的团队，局部连接让节点只专注处理输入图像的一小块区域，权值共享则相当于团队成员共用一套 “工作方法”。这样一来，不仅大幅减少了需要训练的参数数量，让网络优化更轻松，还降低了模型的复杂程度，有效避免了过拟合问题。尤其是在处理图像数据时，这些优势更是展露无遗。

2006 年，深度学习概念由 Hinton 提出，他强调多隐层的人工神经网络具备强大的特征学习能力，能挖掘出数据背后的本质特征，这些特征无论是用于数据可视化还是分类任务，都能发挥巨大价值。随着大数据时代的到来，海量数据为深度学习提供了 “养料”，计算机硬件性能的提升也为其提供了 “算力支撑”，深度学习由此迎来了快速发展。

直到 2012 年，AlexNet 在 ImageNet 比赛的分类任务中一举夺冠，让卷积神经网络彻底 “火出圈”。如今，CNN 已经成为深度神经网络中的 “主力军”，它特有的卷积结构就像一个 “内存优化大师”，通过局部感受野、权值共享、pooling 层这三个 “法宝”，极大减少网络参数数量，为模型的稳定训练保驾护航。

2.卷积神经网络处理图像的优势

要实现卷积神经网络对图像的任务的使用，我们首先要知道图像在计算机中是如何表示的，其实图像在计算机中是一堆按顺序排列的数字，数值为0到255。0表示最暗，255表示最亮。然而我们平时看到的彩色图像则是通过RGB三个通道叠加得到的图像，即红、绿、蓝三原色的色光以不同的比例相加，以产生多种多样的色光。RGB颜色模型中，单个矩阵就扩展成了有序排列的三个矩阵，也可以用三维张量去理解。其中的每一个矩阵又叫这个图片的一个channel（通道），宽, 高, 深来描述。
=220x220
=120x120 =320x320
如图就是三个通道的叠加过程，每一个通道其实可以理解成一个卷积核，他可以过滤出该通道的信息。

3、已经有了神经网络我们为什么还要去使用卷积神经网络

这就与卷积神经网络的画面不变性相关，对于传统的BP神经网络，做图像分类任务，通常的做法是将图片这个二维数据展开成一维数据输入到神经网络中来做分类训练，然而针对一个物体的图片由于图片拍摄角度的不同远近、大小正反亮暗等特征的不同，当我们使用BP神经网络时同一个物体就有可能被识别成不同的物体，这将导致分类的准确率非常低。
接下来我们用一副图来展示一下同一个图像，由于在图片中位置的不同，查看BP神经网络能否处理这类问题。
=320x320

首先，针对第一张图我们发现图片中的信息都是横折这个信息，但是物体所处的位置不同
在这里插入图片描述

当我们想使用BP神经网络对上面的图片做分类时，我们会将上面的每一张图片都展开成一维的数据，因为我们要将图片数据输入到神经网络中，此时，每张图片被展开后我们发现，每张图片的三个小黑点所处的位置都是不同的，那么经过全连接之后，我们就不能把他们归为同一类，一维从输入维度来看，每个位置的图片都像是不同的物体。而且有的位置还没有训练到所以会出现无法识别的情况。如果想要识别，那么就需要将所有位置的图片都传入到模型中去训练才可以。

4. 什么是卷积？

卷积本质是一种 “加权叠加” 运算，通过翻转和平移，将两个信号的局部交互信息聚合为一个新信号。它在工程中用于建模系统响应，在机器学习中用于特征提取，是连接数学理论与实际应用的重要工具。
在这里插入图片描述
从上图，我们可以发现，通过使用滑动的小窗口，我们可以从图片中提取出三个特征，如下图中的小矩阵，分别对应着X的三个关键位置，也就是上图中红框框出来的部分，那么针对同一个物体在不同角度、不同远近、不同大小、不同正反、不同亮暗的情况下，我们始终能提取出相似的特征，并将提取出特征相似的图片归为一类。
#pic_center

请添加图片描述

卷积的计算

请添加图片描述
通过滑动窗口的不停移动，会不断的得到卷积之后的值。

二、卷积层

1.感受野

感受野指的是卷积神经网络每一层输出的特征图(feature map)上每个像素点映射回输入图像上的区域大小。神经元感受野的范围越大表示其能接触到的原始图像范围就越大，也意味着它能学习更为全局，语义层次更高的特征信息；相反，范围越小则表示其所包含的特征越趋向局部和细节。因此感受野的范围可以用来大致判断每一层的抽象层次。并且我们可以很明显地知道网络越深，神经元的感受野越大。由此可知，深度卷积神经网络中靠前的层感受野较小，提取到的是图像的纹理、边缘等局部的、通用的特征；靠后的层由于感受野较大，提取到的是图像更深层次、更具象的特征。因此在迁移学习中常常会将靠前的层的参数冻结（不参与训练，因为他们在迁移到新的场景之前已经具备了提取通用特征的能力），来节省训练的时间和算力消耗。
=720x320
例如图片是3通道：
卷积核为3个77的，则卷积核所需要的参数个数为：3（377）=441个
卷积核为3个33的3层，则卷积核所需要的参数个数为：3（333）+3*（333） +3*（333）

2.权值共享

3.卷积中的核心概念

（1）卷积核

卷积核是一个可学习的二维（或三维，考虑通道）矩阵，用于在输入数据（如图像）上滑动，通过元素相乘和累加提取局部特征（如边缘、纹理、形状等）。
尺寸（Kernel Size）：通常为奇数（如 3×3、5×5），便于以中心像素为对称点提取特征，也可使用 1×1（用于通道维度变换）。
深度（Depth/Channels）：卷积核的通道数必须与输入数据的通道数一致（如输入 RGB 图像，卷积核通道数为 3），输出通道数由卷积核数量决定。
可学习参数：卷积核的权重在训练中通过反向传播优化，捕捉不同层次的特征。
在这里插入图片描述

（2）步长

步长是指卷积核在输入数据上滑动时的步幅，即每次移动的像素数。常见值为 1、2，大步长（如 4）较少使用。

步长 (S=1)：输出尺寸接近输入，保留更多空间细节。步长 (S=2)：输出尺寸约为输入的 1/2，实现下采样（类似池化），减少计算量并扩大感受野。

大步长导致卷积核覆盖区域重叠减少，可能丢失细节，但提升计算效率；小步长保留更多局部信息，但计算量增加。

（3）边界填充（Padding）

在输入数据的边界外围添加像素（通常为 0，称为零填充），避免边缘像素在卷积过程中被 “削弱”（仅被卷积核部分覆盖），同时控制输出尺寸。

目的是：
保留边缘信息：边缘像素在原始输入中仅被卷积核覆盖一次（中心位于边缘时），填充后可被完整处理。

控制输出尺寸：通过调整填充像素数 P，使输出尺寸与输入相同（Same Padding）或任意指定尺寸。

填充类型：
Valid Padding（无填充）：(P=0)，输出尺寸严格按公式计算，可能导致边缘信息丢失，适用于不需要保留边界细节的场景。
在这里插入图片描述
Same Padding（相同填充）：
填充后输出尺寸与输入相同（或尽可能接近），计算公式为：

（5）卷积的过程

=720x
由于彩色图片通常是由RGB三种颜色通道，所以一张图片在表示上其实是三个矩阵的叠加之后的结果，然而卷积核就像是眼睛一样，不断地扫描图片从而提取特征，上图中总共有两组卷积核，这也就是说经过卷积会得到两张特征图，特征图的数量取决于卷积核的组数。

三、池化层

1. 最大池化(Max Pooling)和平均池化(Mean Pooling)

通常在连续的卷积层之间会周期性地插入一个池化层（也称“汇聚”层）。它的作用是逐渐降低数据体的空间尺寸，这样的话就能减少网络中参数的数量，使得计算资源耗费变少，也能有效控制过拟合。池化这个操作比较简单，一般在上采样和下采样的时候用到，没有参数，不可学习。

普通池化操作常见的有最大池化(Max Pooling)和平均池化(Mean Pooling)。
其中，最常用的是最大池化，最常见的形式是使用尺寸2x2的滤波器，以步长为2来对每个深度切片进行降采样，将其中75%的激活信息都丢掉。对更大感受野进行池化需要的池化尺寸也更大，而且往往对网络有破坏性。平均池化比较常用，但是现在已经很少使用了。因为实践证明，最大池化的效果比平均池化要好。尺寸为2×2、步长为2的最大池化核平均池化的示例如下图所示：

在这里插入图片描述
关于池化层的反向传播：对于最大池化来说，max(x,y)函数的反向传播可以简单理解为将梯度只沿最大的数回传。因此，在向前传播经过汇聚层的时候，通常会把池中最大元素的索引记录下来（有时这个也叫作道岔（switches）），这样在反向传播的时候梯度的路由就很高效。

Max pooling的主要功能是压缩，却不会损坏识别结果。这意味着卷积后的Feature Map中有对于识别物体不必要的冗余信息。那么我们就反过来思考，这些“冗余”信息是如何产生的。
在这里插入图片描述

(2) 全局平均池化(Global Average Pooling)

全局平均池化的操作是对一个维度为(C,H,W)的feature map，在H和W方向整个取平均，然后输出一个长度为C的向量，这个操作一般在分类模型的最后一个feature map之后出现，然后接一个全连接层就可以完成分类结果的输出了。早期的分类模型都是把最后一个feature map直接拉平成C×H×W的向量，然后再接全连接层，可以明显看出这样计算量极大，甚至有的模型最后一个全连接层占了整个模型计算量的50%以上，之后由研究人员发现对这个feature map做一个全局平均池化，然后再加全连接层可以达到相似的效果，且计算量降低到了原来的1/HW。

四、卷积神经网络

1.知名的卷积神经网络

LeNet：第一个成功的卷积神经网络应用。
AlexNet：类似LeNet，但更深更大。使用了层叠的卷积层来抓取特征（通常是一个卷积层马上一个max pooling层）。
ZF Net：增加了中间卷积层的尺寸，让第一层的stride和filter size更小。
GoogLeNet：减少parameters数量，最后一层用max pooling层代替了全连接层，更重要的是Inception-v4模块的使用。
VGGNet：只使用3x3 卷积层和2x2 pooling层从头到尾堆叠。
ResNet：引入了跨层连接和batch normalization。
DenseNet：将跨层连接从头进行到尾。

2.卷积神经网络的架构

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/086836bac7c7490890023d7b4f9a31c5.png

卷积神经网络（CNN）的工作过程是一个层次化的特征提取与分类过程：首先，输入图像经过卷积层，通过多个可学习的滤波器（卷积核）对局部区域进行扫描，提取边缘、纹理等初级特征，每个滤波器生成对应的特征图；接着，激活函数（如ReLU）引入非线性，增强模型的表达能力；然后通过池化层（如最大池化）对特征图进行下采样，降低空间维度并增强平移不变性；经过多轮"卷积-激活-池化"的堆叠后，深层网络逐渐捕获更复杂的语义特征（如物体部件或整体形态）；最终，特征图被展平后输入全连接层，通过权重矩阵整合全局信息，输出层使用softmax等函数完成分类任务。整个过程中，低层捕捉细节特征，高层整合抽象语义，通过端到端的训练不断优化各层参数。

在这里插入图片描述

至此，我们了解了卷积神经网络中的零散知识，了解了卷积神经网络是如何工作的，其内部构造是什么。