基于YOLOv8深度学习的智慧农业棉花采摘状态检测与语音提醒系统(PyQt5界面+数据集+训练代码)

智慧农业在现代农业中的应用日益广泛，其核心目标是通过智能化手段实现农业生产的自动化、精准化和高效化，而精准采摘技术作为智慧农业的重要组成部分，正受到越来越多的关注。棉花作为一种经济作物，其采摘过程传统上依赖于人工劳作，费时费力且容易受到人为判断误差的影响。针对这一问题，本文提出了一种基于YOLOv8深度学习的棉花采摘状态检测与语音提醒系统，旨在通过现代人工智能技术提升棉花采摘效率并降低劳动成本。

本系统的核心在于构建一个能够自动识别棉花状态的深度学习模型，结合强大的YOLOv8目标检测算法，系统可以准确区分棉花的四种采摘状态：存在缺陷的棉花（不采摘）、正在开花的棉花（不采摘）、完全打开的棉花（可以采摘）以及部分打开的棉花（不采摘）。为了实现这一目标，系统采用了高质量的数据采集与标注方法，建立了丰富的棉花状态数据集，并针对目标检测任务进行了深度模型的训练与优化。

系统采用PyQt5开发用户界面，设计了多功能模块，包括图片检测、视频检测及实时摄像头检测功能，方便用户根据实际需求选择适合的检测方式。检测结果以视觉化的形式呈现，同时配备语音提醒功能，根据检测到的棉花状态实时给出采摘建议。此外，系统支持检测数据和结果的存储功能，便于后续的数据分析和优化。

通过实验验证，本系统在实际应用中表现出良好的鲁棒性和实时性。系统检测的平均精度（mAP）和检测速度均达到了棉花采摘任务的实用要求，可以在复杂的田间环境下准确识别棉花状态。相比传统的人工采摘方法，该系统显著提高了采摘效率，同时减少了人为误判导致的经济损失。

总之，本文提出的基于YOLOv8深度学习的棉花采摘状态检测与语音提醒系统为智慧农业中精准采摘技术的发展提供了技术支持与解决方案。未来，本系统可以进一步结合无人采摘设备，朝着完全自动化的方向发展，为智慧农业的全面普及奠定基础。这一研究不仅对提升农业生产效率具有重要意义，同时也为其他经济作物的智能采摘提供了可参考的范例。

算法流程

项目数据

通过搜集关于数据集为各种各样的棉花采摘状态相关图像，并使用Labelimg标注工具对每张图片进行标注，分4检测类别，分别是’存在缺陷的棉花’, ‘正在开花的棉花’, ‘完全打开的棉花’, ‘部分打开的棉花’。

目标检测标注工具
（1）labelimg:开源的图像标注工具，标签可用于分类和目标检测，它是用python写的，并使用Qt作为其图形界面，简单好用（虽然是英文版的）。其注释以 PASCAL VOC格式保存为XML文件，这是ImageNet使用的格式。此外，它还支持 COCO数据集格式。
（2）安装labelimg 在cmd输入以下命令 pip install labelimg -i https://pypi.tuna.tsinghua.edu.cn/simple

结束后，在cmd中输入labelimg

初识labelimg

打开后，我们自己设置一下

在View中勾选Auto Save mode

接下来我们打开需要标注的图片文件夹

并设置标注文件保存的目录（上图中的Change Save Dir）
接下来就开始标注，画框，标记目标的label，然后d切换到下一张继续标注，不断重复重复。

Labelimg的快捷键

（3）数据准备
这里建议新建一个名为data的文件夹（这个是约定俗成，不这么做也行），里面创建一个名为images的文件夹存放我们需要打标签的图片文件；再创建一个名为labels存放标注的标签文件；最后创建一个名为 classes.txt 的txt文件来存放所要标注的类别名称。

data的目录结构如下：
│─img_data
│─images 存放需要打标签的图片文件
│─labels 存放标注的标签文件
└ classes.txt 定义自己要标注的所有类别（这个文件可有可无，但是在我们定义类别比较多的时候，最好有这个创建一个这样的txt文件来存放类别）

首先在images这个文件夹放置待标注的图片。
生成文件如下:

“classes.txt”定义了你的 YOLO 标签所引用的类名列表。

（4）YOLO模式创建标签的样式

存放标签信息的文件的文件名为与图片名相同，内容由N行5列数据组成。
每一行代表标注的一个目标，通常包括五个数据，从左到右依次为：类别id、x_center、y_center、width、height。
其中：
–x类别id代表标注目标的类别；
–x_center和y_center代表标注框的相对中心坐标；
–xwidth和height代表标注框的相对宽和高。

注意：这里的中心点坐标、宽和高都是相对数据！！！

存放标签类别的文件的文件名为classes.txt (固定不变)，用于存放创建的标签类别。

完成后可进行后续的yolo训练方面的操作。

模型训练

模型的训练、评估与推理

1.YOLOv8的基本原理

YOLOv8是一个SOTA模型，它建立在Yolo系列历史版本的基础上，并引入了新的功能和改进点，以进一步提升性能和灵活性，使其成为实现目标检测、图像分割、姿态估计等任务的最佳选择。其具体创新点包括一个新的骨干网络、一个新的Ancher-Free检测头和一个新的损失函数，可在CPU到GPU的多种硬件平台上运行。

YOLOv8是Yolo系列模型的最新王者，各种指标全面超越现有对象检测与实例分割模型，借鉴了Yolov5、Yolov6、YoloX等模型的设计优点，在全面提升改进Yolov5模型结构的基础上实现，同时保持了Yolov5工程化简洁易用的优势。

Yolov8模型网络结构图如下图所示：

2.数据集准备与训练

本研究使用了包含棉花采摘状态的数据集，并通过Labelimg标注工具对每张图像中的目标边框（Bounding Box）及其类别进行标注。然后主要基于YOLOv8n这种模型进行模型的训练，训练完成后对模型在验证集上的表现进行全面的性能评估及对比分析。模型训练和评估流程基本一致，包括：数据集准备、模型训练、模型评估。本次标注的目标类别为棉花采摘状态，数据集中共计包含13771张图像，其中训练集占12712张，验证集占530张，测试集占529张。部分图像如下图所示：

部分标注如下图所示：

图片数据的存放格式如下，在项目目录中新建datasets目录，同时将检测的图片分为训练集与验证集放入datasets目录下。

接着需要新建一个data.yaml文件，用于存储训练数据的路径及模型需要进行检测的类别。YOLOv8在进行模型训练时，会读取该文件的信息，用于进行模型的训练与验证。
data.yaml的具体内容如下：

train: C:/7zProject/CottonMaturityObjective_v8/datasets/Data/train/images 训练集的路径
val: C:/7zProject/CottonMaturityObjective_v8/datasets/Data/valid/images 验证集的路径
test: C:/7zProject/CottonMaturityObjective_v8/datasets/Data/test/images 测试集的路径

nc: 4
names: [‘Defected boll(Don-t pick)’, ‘Flower(Don-t pick)’, ‘Fully opened boll(Ready to pick)’, ‘Partially opened(Not ready to pick)’]

这个文件定义了用于模型训练和验证的数据集路径，以及模型将要检测的目标类别。

数据准备完成后，通过调用train.py文件进行模型训练，epochs参数用于调整训练的轮数，batch参数用于调整训练的批次大小(根据内存大小调整，最小为1)。

CPU/GPU训练代码如下：

加载名为 yolov8n.pt 的预训练YOLOv8模型，yolov8n.pt是预先训练好的模型文件。
使用YOLO模型进行训练，主要参数说明如下：
（1）data=data_yaml_path: 指定了用于训练的数据集配置文件。
（2）epochs=150: 设定训练的轮数为150轮。
（3）batch=4: 指定了每个批次的样本数量为4。
（4）optimizer=’SGD’):SGD 优化器。
（7）name=’train_v8′: 指定了此次训练的命名标签，用于区分不同的训练实验。

3.训练结果评估

在深度学习的过程中，我们通常通过观察损失函数下降的曲线来了解模型的训练情况。对于YOLOv8模型的训练，主要涉及三类损失：定位损失（box_loss）、分类损失（cls_loss）以及动态特征损失（dfl_loss）。训练完成后，相关的训练过程和结果文件会保存在 runs/ 目录下，具体如下：

各损失函数作用说明：
定位损失box_loss：预测框与标定框之间的误差（GIoU），越小定位得越准；
分类损失cls_loss：计算锚框与对应的标定分类是否正确，越小分类得越准；
动态特征损失（dfl_loss）：DFLLoss是一种用于回归预测框与目标框之间距离的损失函数。在计算损失时，目标框需要缩放到特征图尺度，即除以相应的stride，并与预测的边界框计算Ciou Loss，同时与预测的anchors中心点到各边的距离计算回归DFLLoss。这个过程是YOLOv8训练流程中的一部分，通过计算DFLLoss可以更准确地调整预测框的位置，提高目标检测的准确性。

训练结果如下：

这张图展示了YOLOv8模型在训练和验证过程中的多个重要指标的变化趋势，具体如下：

train/box_loss：
（1）含义：边界框损失（Bounding Box Loss），衡量预测边界框与真实边界框之间的差距。
（2）趋势：损失值在训练结束时趋于平稳，说明训练过程收敛良好。

train/cls_loss：
（1）含义：分类损失（Classification Loss），衡量模型对类别预测的误差。
（2）趋势：下降曲线光滑，未出现较大震荡，说明优化过程稳定。

train/dfl_loss：
（1）含义：分布式对齐损失（Distribution Focal Loss），用于提升边界框预测的分布质量。
（2）趋势：曲线平滑且下降显著，体现了较好的收敛特性。

metrics/precision(B)：
（1）含义：精确率（Precision），表示预测为正样本的结果中，真正例所占的比例。
（2）趋势：在训练初期波动较大，随训练轮次的增加，逐渐趋于稳定并维持在0.9以上，说明模型预测结果的误报率较低。

metrics/recall(B)：
（1）含义：召回率（Recall），表示所有正样本中被成功检测出的比例。
（2）趋势：召回率从初始的低点快速上升并趋于稳定，最终接近0.9，表明模型能够较好地识别出所有目标。

val/box_loss：
（1）含义：验证集上的边界框损失。
（2）趋势：验证集上的边界框损失从1.2下降到约0.95，下降速度较慢但稳定，说明模型在验证集上的泛化能力逐渐提升。

val/cls_loss：
（1）含义：验证集上的分类损失。
（2）趋势：类别损失从约1.0下降到约0.5，表明模型在验证集上也能较好地区分目标类别。

val/dfl_loss：
（1）含义：验证集上的分布式对齐损失。
（2）趋势：验证集上的分布焦点损失从约1.25下降至1.1，趋势平缓但持续下降，显示模型在目标定位上的鲁棒性较好。

metrics/mAP50(B)：
（1）含义：验证集上的 mAP@0.5（平均精度），表示 IoU 阈值为 0.5 时的检测精度。
（2）趋势：验证集的 mAP50 从0.5迅速上升到0.9以上，说明模型在验证集上的检测性能较高。

metrics/mAP50-95(B)：
（1）含义：验证集上的 mAP@50-95（综合平均精度），表示多个 IoU 阈值下的综合检测性能。
（2）趋势：mAP50-95 从0.5逐步上升并趋于平稳，最终稳定在约0.72，表明模型在不同IoU阈值下均表现良好。

总结
（1）模型收敛性：训练和验证损失均呈下降趋势，并在后期趋于平稳，表明模型训练过程顺利且收敛性良好。
（2）检测性能：精确率和召回率较高，验证集上的 mAP50 达到 0.9 以上，mAP50-95 稳定在约 0.72，说明模型的检测性能和泛化能力优异。

这张图展示的是 Precision-Recall 曲线，用于评估模型在不同类别下的检测性能。以下是详细解释：

曲线说明
1.Defected boll (Don’t pick)（缺陷棉花，不采摘）：
（1）Precision: 0.845
（2）召回率较高，但精确率相对略低，表明该类别的误检率稍高，可能是因为数据集中缺陷棉花特征较为复杂。

2.Flower (Don’t pick)（正在开花的棉花，不采摘）：
（1）Precision: 0.995
（2）该类别的曲线非常接近右上角，表明模型对开花棉花的检测非常稳定，几乎没有误检。

3.Fully opened boll (Ready to pick)（完全打开的棉花，可以采摘）：
（1）Precision: 0.947
（2）曲线接近右上角，说明模型对完全打开的棉花检测性能良好。

4.Partially opened (Not ready to pick)（部分打开的棉花，不采摘）：
（1）Precision: 0.954
（2）该类别的精确率和召回率较为均衡，曲线表现优异。

5.所有类别 (All classes)：
（1）mAP@0.5: 0.935
（2）表明模型在 IoU=0.5 的条件下，整体检测性能较高，能够很好地平衡精确率与召回率。

总体来说，模型对所有类别的检测性能均表现优异。本模型能够很好地区分棉花的不同状态，适用于智慧农业中的棉花采摘状态检测，有助于提高采摘效率并降低误判率。

4.检测结果识别

模型训练完成后，我们可以得到一个最佳的训练结果模型best.pt文件，在runs/train/weights目录下。我们可以使用该文件进行后续的推理检测。
imgTest.py 图片检测代码如下：

加载所需库：
（1）from ultralytics import YOLO：导入YOLO模型类，用于进行目标检测。
（2）import cv2：导入OpenCV库，用于图像处理和显示。

加载模型路径和图片路径：
（1）path = ‘models/best.pt’：指定预训练模型的路径，这个模型将用于目标检测任务。
（2）img_path = “TestFiles/imagetest.jpg”：指定需要进行检测的图片文件的路径。

加载预训练模型：
（1）model = YOLO(path, task=’detect’)：使用指定路径加载YOLO模型，并指定检测任务为目标检测 (detect)。
（2）通过 conf 参数设置目标检测的置信度阈值，通过 iou 参数设置非极大值抑制（NMS）的交并比（IoU）阈值。

检测图片：
（1）results = model(img_path)：对指定的图片执行目标检测，results 包含检测结果。

显示检测结果：
（1）res = results[0].plot()：将检测到的结果绘制在图片上。
（2）cv2.imshow(“YOLOv8 Detection”, res)：使用OpenCV显示检测后的图片，窗口标题为“YOLOv8 Detection”。
（3）cv2.waitKey(0)：等待用户按键关闭显示窗口

这张图说明了模型在橙子品质分级任务中的出色表现，特别是对于“成熟橙子”和“未成熟橙子”的检测精度非常高。如果需要进一步优化，可以关注数据集的平衡性或改进特征学习。

执行imgTest.py代码后，会将执行的结果直接标注在图片上，结果如下：

这段输出是基于YOLOv8模型对图片“imagetest.jpg”进行检测的结果，具体内容如下：

图像信息：
（1）处理的图像路径为：TestFiles/imagetest.jpg。
（2）图像尺寸为640×640像素。

检测结果：
（1）模型在图片中检测到 1 个Partially opened (Not ready to pick)（部分打开，不采摘）。

处理速度：
（1）预处理时间: 3.0 毫秒
（2）推理时间: 5.5 毫秒
（3）后处理时间: 56.4 毫秒

模型成功检测到图片中的目标，无其他误检。整体处理效率高，适合实时检测。

运行效果

– 运行 MainProgram.py

1.主要功能：
（1）可用于实时检测目标图片中的棉花采摘状态；
（2）支持图片、视频及摄像头进行检测，同时支持图片的批量检测；
（3）界面可实时显示目标位置、目标总数、置信度、用时等信息;
（4）支持图片或者视频的检测结果保存。

2.检测结果说明：

（1）置信度阈值：当前设置为0.25，表示检测系统只会考虑置信度高于25%的目标进行输出，置信度越高表示模型对检测结果的确信度越高。
（2）交并比阈值：当前设置为0.70，表示系统只会认为交并比（IoU）超过70%的检测框为有效结果。交并比是检测框与真实框重叠区域的比值，用于衡量两个框的相似程度，值越高表明重叠程度越高。

这两个参数通常用于目标检测系统中，调整后可以影响模型的检测精度和误检率。

这张图表显示了基于YOLOv8模型的目标检测系统的检测结果界面。以下是各个字段的含义解释：

用时（Time taken）:
（1）这表示模型完成检测所用的时间为0.041秒。
（2）这显示了模型的实时性，检测速度非常快。

目标数目（Number of objects detected）:
（1）检测到的目标数目为1，表示这是当前检测到的第1个目标。

目标选择(下拉菜单)：全部:
（1）这里有一个下拉菜单，用户可以选择要查看的目标类型。
（2）在当前情况下，选择的是“全部”，意味着显示所有检测到的目标信息。

语音提醒（Voice Reminder）:
（1）异常语音提醒：不能采摘

目标检测类型：

结果（Result）:
（1）当前选中的结果为 “部分打开的棉花”，表示系统正在高亮显示检测到的“abnormal_twisted”。

置信度（Confidence）:
（1）这表示模型对检测到的目标属于“部分打开的棉花”类别的置信度为86.15%。
（2）置信度反映了模型的信心，置信度越高，模型对这个检测结果越有信心。

目标位置（Object location）:
（1）xmin: 317, ymin: 205：目标的左上角的坐标(xmin, ymin)，表示目标区域在图像中的位置。
（2）xmax: 605, ymax: 421：目标的右下角的坐标(xmax, ymax)，表示目标区域的边界。

这些坐标表示在图像中的目标区域范围，框定了检测到的“部分打开的棉花”的位置。

这张图展示了棉花采摘状态的一次检测结果，包括检测时间、检测到的种类、各行为的置信度、目标的位置信息等。用户可以通过界面查看并分析检测结果，提升棉花采摘状态检测的效率。

3.图片检测说明

（1）部分打开的棉花（不能采摘）

（2）存在缺陷的棉花（不能采摘）

（3）正在开花的棉花（不能采摘）

（4）完全打开的棉花（可以采摘）

点击打开图片按钮，选择需要检测的图片，或者点击打开文件夹按钮，选择需要批量检测图片所在的文件夹。
操作演示如下：
（1）点击目标下拉框后，可以选定指定目标的结果信息进行显示。
（2）点击保存按钮，会对检测结果进行保存，存储路径为：save_data目录下。

检测结果：系统识别出图片中的棉花采摘状态情况，并显示检测结果，包括总目标数、用时、目标类型、置信度、以及目标的位置坐标信息。

4.视频检测说明

点击视频按钮，打开选择需要检测的视频，就会自动显示检测结果，再次点击可以关闭视频。
点击保存按钮，会对视频检测结果进行保存，存储路径为：save_data目录下。

检测结果：系统对视频进行实时分析，检测到棉花采摘状态并显示检测结果。表格显示了视频中多个检测结果的置信度和位置信息。

这个界面展示了系统对视频帧中的多目标检测能力，能够准确识别棉花采摘状态，并提供详细的检测结果和置信度评分。

5.摄像头检测说明

点击打开摄像头按钮，可以打开摄像头，可以实时进行检测，再次点击，可关闭摄像头。

检测结果：系统连接摄像头进行实时分析，检测到棉花采摘状态并显示检测结果。实时显示摄像头画面，并将检测到的行为位置标注在图像上，表格下方记录了每一帧中检测结果的详细信息。

6.保存图片与视频检测说明

点击保存按钮后，会将当前选择的图片(含批量图片)或者视频的检测结果进行保存。
检测的图片与视频结果会存储在save_data目录下。
保存的检测结果文件如下：

（1）图片保存

（2）视频保存

– 运行 train.py
1.训练参数设置

（1）data=data_yaml_path: 使用data.yaml中定义的数据集。
（2）epochs=150: 训练的轮数设置为150轮。
（3）batch=4: 每个批次的图像数量为4（批次大小）。
（4）name=’train_v8′: 训练结果将保存到以train_v8为名字的目录中。
（5）optimizer=’SGD’: 使用随机梯度下降法(SGD)作为优化器。

虽然在大多数深度学习任务中，GPU通常会提供更快的训练速度。
但在某些情况下，可能由于硬件限制或其他原因，用户需要在CPU上进行训练。

温馨提示：在CPU上训练深度学习模型通常会比在GPU上慢得多，尤其是像YOLOv8这样的计算密集型模型。除非特定需要，通常建议在GPU上进行训练以节省时间。

2.训练日志结果

这张图展示了使用YOLOv8进行模型训练的详细过程和结果。

训练总时长：
（1）模型在训练了150轮后，总共耗时6.117小时。
（2）本次训练使用了 NVIDIA GeForce RTX 4070 Ti SUPER。

总体性能：
（1）mAP50: 最高达到 93.5%，表明在 IoU 阈值为 0.5 的情况下模型检测性能良好。
（2）mAP50-95: 最高为 72.2%，显示模型在不同 IoU 阈值下也具有较好的泛化能力。

速度：
（1）0.1ms 预处理时间
（2）0.9ms 推理时间
（3）0.6ms 后处理时间

结果保存：
（1）Results saved to runs\detect\train_v8：验证结果保存在 runs\detect\train_v8 目录下。

完成信息：
（1）Process finished with exit code 0：表示整个验证过程顺利完成，没有报错。

总结：
从结果来看：
（1）模型性能：mAP50 达到 99.3%，mAP50-95 达到 80.9%，表明该模型在摔倒检测任务中表现优异。
（2）实时性：推理速度仅需 0.1ms/图片，非常适合部署在实时监控系统中。
（3）数据分布：训练数据集平衡，站立和摔倒两种姿态数据均较为充足，支持模型的高效学习。

该模型具有极高的实时性，能够满足智慧农业中的实时检测需求。