攻破tensorflow,勇创最佳agent(2)---损失(loss) 准确率(accuracy)问题
实战播:
怎么判定一个模型好不好,你设置的值对不对? 需要再看几个值:
例如:
model = Sequential()for units in model_structure:model.add(Dense(units, activation='relu'))model.add(Dropout(train_config.get('dropout_rate', 0.3)))model.add(Dense(1, activation='sigmoid'))
他的训练集表现损失值不好! 一直维持在0.68+;这就需要不好了;
那么 模型的损失(loss)值表现不佳 怎么解决这个问题?
-
调整学习率:如果学习率过高,可能导致损失值波动,建议尝试降低学习率,例如使用学习率衰减策略来动态调整学习率。(这个可以看我之前的:创作中心-CSDN)
-
数据增强:如果训练数据集规模较小,可以使用数据增强技术,例如随机旋转、剪裁等,增强数据的多样性和模型的泛化能力。(因为我现在是一个2分类问题,全部都是数据,所以就不考虑;唯一的方式就是增加数据量!)
-
模型正则化:增加Dropout层或使用L1/L2正则化,防止模型过拟合。例如,Dropout的概率可以调整为0.2到0.5之间。
-
调整网络结构:尝试不同的模型结构,比如增加或减少神经元的数量,或者导入复杂的层结构(例如,残差连接)来改善模型性能。
-
批量大小(Batch Size)调整:确保Batch Size适中,过小可能导致不稳定,过大则可能导致计算不精确。可以尝试调整Batch Size以优化训练过程。
dense层和dropout层:
想象你正在训练一只机器人助手,它需要学会识别不同的水果。这个机器人有很多“小助手”(神经元),它们一起合作来完成任务。
-
Dense层(全连接层)
- 小助手A:负责把水果的特征(颜色、形状、大小)整理成一份报告。
- 小助手B:负责根据这份报告,判断水果是苹果、香蕉还是橘子。
- 小助手C:负责把判断结果转化为机器人能理解的指令,比如“抓取苹果”。
- 每个小助手都和其他小助手紧密合作,确保信息传递准确无误。
在代码中,Dense(units, activation='relu') 就是添加一个全连接层,units 是小助手的数量,activation='relu' 是小助手们合作时使用的方式(ReLU激活函数)。
-
Dropout层
- 在训练过程中,为了让小助手们不要过于依赖某些特定的水果特征,机器人会随机让部分小助手“休息”。
- 比如,今天小助手A和B休息了,小助手C和D继续工作。这样,机器人学会了在不同的小助手组合下完成任务,变得更加灵活和稳定。
在代码中,Dropout(train_config.get('dropout_rate', 0.3)) 就是设置让30%的小助手随机“休息”,以防止过拟合。
总结
- Dense层:像是一个团队,每个成员都紧密合作,负责特定的任务。
- Dropout层:像是一个轮换机制,确保团队成员不会过于依赖某些特定的成员,从而提升整体的适应能力。
案例表达: (模型正则化)
1.当我尝试把dropout_rate从0.3调到0.5
... (原先是0.71-->0.68,同时准确率维持在0.55+)
model.add(Dropout(train_config.get('dropout_rate', 0.5)))
2.现在我把代码改为正则化:
model = Sequential()
for units in model_structure:model.add(Dense(units, activation='relu', kernel_regularizer=regularizers.l2(0.01))) # 使用L2正则化# model.add(Dense(units, activation='relu', kernel_regularizer=regularizers.l1(0.01))) # 使用L1正则化
model.add(Dense(1, activation='sigmoid'))
在此代码中,kernel_regularizer=regularizers.l2(0.01)添加了L2正则化,而kernel_regularizer=regularizers.l1(0.01)则为L1正则化。
因此,当我使用L1或者L2之后,还没有之前的手动效果好! 因此,这个训练集--->舍弃正则化!!!
L1与L2正则化的定义
- L1正则化(Lasso回归):通过在损失函数中增加权重绝对值的和作为惩罚项,从而驱使某些权重减小到零,生成稀疏解,适合特征选择.
- L2正则化(Ridge回归):通过增加权重平方和作为惩罚项,促使所有权重趋向较小的均匀值,而不是完全为零。它通过减少权重避免过拟合,增强模型的稳定性.
这两种正则化方法可以在模型中结合使用,以提高模型的泛化能力和抗干扰能力。
训练集(loss)和验证集(val_loss)
- 训练集(loss):这就像是在练习题上不断练习,模型在这些题目上越来越熟练,错误越来越少。loss值越小,说明模型在训练数据上表现越好。
- 验证集(val_loss):这就像是在考试题目上测试,loss值越小,说明模型在真实数据上的表现越好。
训练集(accuracy)和验证集(val_accuracy)
- 训练集(accuracy):这就像是在练习题上答对的比例,accuracy越高,说明模型在训练数据上越熟练。
- 验证集(val_accuracy):这就像是在考试题上答对的比例,accuracy越高,说明模型在真实数据上的表现越好。
数据
- epoch 1:模型刚开始训练,loss和val_loss都很高,accuracy和val_accuracy也很低。就像刚上学的孩子,刚开始学东西,什么都不会。
- epoch 5:loss和val_loss都在下降,accuracy和val_accuracy也在上升。就像孩子逐渐掌握知识,练习题和考试题都能答对更多。
- epoch 10:loss和val_loss继续下降,accuracy和val_accuracy继续上升。就像孩子越来越熟练,考试成绩也越来越好。
- epoch 15:loss和val_loss下降变慢,accuracy和val_accuracy也趋于稳定。就像孩子已经掌握了大部分知识,进一步提高需要更多的努力。
总结
数据表示:
模型在训练过程中的表现,
loss和val_loss越小,accuracy和val_accuracy越高,说明模型越来越好。
就像孩子从不会到会,从生疏到熟练,再到精通,这是一个不断学习和进步的过程。
相关文章:
攻破tensorflow,勇创最佳agent(2)---损失(loss) 准确率(accuracy)问题
实战播: 怎么判定一个模型好不好,你设置的值对不对? 需要再看几个值: 例如: model Sequential()for units in model_structure:model.add(Dense(units, activationrelu))model.add(Dropout(train_config.get(dropout_rate, 0.3)))model.add(Dense(1, activationsigmoid)) 他…...
括号合法题
一、括号合法题 2116. 判断一个括号字符串是否有效 //采用从左往右和从右往左遍历的贪心算法,分别保证前缀合法,后缀合法。public boolean canBeValid(String s, String locked) {int ns.length();if (n%21) return false;int num0;// 从左到右扫描&…...
C++11之深度理解lambda表达式
前言 在现代C中,Lambda表达式提供了一种简洁而强大的方式来定义匿名函数,使代码更具可读性和灵活性。自C11引入Lambda以来,它已经成为STL算法、并发编程和回调机制中的重要工具。随着C14、C17和C20的不断演进,Lambda的功能也在不断…...
字符串常量,数组和指针的不同形式
在 C 语言中,字符串 "hello" 存储在内存中是一个字符数组,它的内存布局通常如下: 1. 字符串常量区: 字符串常量(如 "hello")是存储在程序的数据段(通常称为 .data 或 .ro…...
全面讲解python的uiautomation包
在常规的模拟鼠标和键盘操作,我们一般使用pyautogui,uiautomation模块不仅能直接支持这些操作,还能通过控件定位方式直接定位到目标控件的位置,而不需要自己去获取对应坐标位置。uiautomation模块不仅支持任意坐标位置截图&#x…...
性能测试笔记
8、JMeter扩展开发 扩展组件开发的意义 输入参数协议复杂调用逻辑功能等等 开发前的工具准备 下载jdk并安装,配置环境变量下载maven,配置环境变量修改settings.xml本地仓库,远程仓库的地址Eclipse新建Maven项目编辑 pom.xml Maven常用命令…...
相对位置2d矩阵和kron运算的思考
文章目录 1. 相对位置矩阵2d2. kron运算 1. 相对位置矩阵2d 在swin-transformer中,我们会计算每个patch之间的相对位置,那么我们看到有一连串的拉伸和相减,直接贴代码: import torch import torch.nn as nntorch.set_printoptio…...
从C语言开始的C++编程生活(2)
前言 本系列文章承接C语言的学习,需要有C语言的基础才能学会哦~ 第2篇主要讲的是有关于C的缺省参数和函数重载。 C才起步,都很简单呢! 目录 前言 缺省参数 基本语法 缺省参数的作用 函数重载 基本语法 重载的作用 缺省参数 缺省参数…...
【设计模式】深入解析装饰器模式(Decorator Pattern)
深入解析装饰器模式(Decorator Pattern) 一、装饰器模式的核心概念 装饰器模式是一种结构型设计模式,用于动态地给对象添加新功能,而不改变其原始代码。 1. 为什么需要装饰器? 避免继承带来的类爆炸问题࿱…...
K8S集群新增和删除Node节点(K8s Cluster Adds and Removes Node Nodes)
实战:在已有K8S集群如何新增和删除Node节点 在Kubernetes (K8S) 集群中,Node节点是集群中的工作节点,它们运行着容器的实际实例。管理K8S集群中的Node节点,包括新增和删除节点,是一个常见且重要的操作,可以…...
2503C++,C++标准的执行
最优雅的应该是c26刚刚引入的std::execution,通过sender/receiver模型和常用的异步算法来简化调用异步逻辑,还可随时改成协程. #include <stdexec/execution.hpp> #include <exec/static_thread_pool.hpp> int main() {exec::static_thread_pool pool(3);auto sch…...
nodejs中实现一个自定义的require方法
1.前言 大家对nodejs中的require方法应该不会陌生,这个方法可以用来导入nodejs的内置模块,自定义模块,第三方模块等,使用频率非常高,那么这个方法内部是如何实现的呢?本篇文章就是从头到尾拆分实现流程,最终实现一个自定义的require方法的 2.前置操作 导入所需的nodejs内置…...
vscode/cursor中python运行路径设置 模块导入问题
vscode/cursor中python运行路径设置 ## 文件路径设置 问题描述 pycharm的项目用cursor运行,出现目录找不到 后来利用 os.getcwd(),经过打印调试发现是IDE的本身配置问题 pycharm中,os.getcwd()默认打开当前脚本所在目录 vscode/cursor中…...
Spring学习笔记05——Spring Boot的文件结构2(POJO类)
在Spring Boot项目中,将Entity、DTO、VO放在POJO子模块中是一种常见的分层设计,它们各自承担不同的职责,通过一个通俗的例子来解释它们的作用: POJO(Plain Old Java Object)是指普通的、简单的Java对象&am…...
html和css 实现元素顺时针旋转效果(椭圆形旋转轨迹)
一 实现效果 二 实现代码 我自己是用react写的。 1. react 代码如下: import React from "react"; import styles from "./index.less";export default () > {return <div className{styles.containers}><div className{styles.c…...
C# 的Lambda表达式常见用法和示例
C# 的 Lambda 表达式是一种强大的语法糖,能够极大简化代码并增强灵活性。以下是它的主要功能和应用场景,结合具体示例说明: 1. 简化委托实例化 Lambda 可以快速定义委托(如 Func、Action),无需显式…...
2024年数维杯数学建模C题天然气水合物资源量评价解题全过程论文及程序
2024年数维杯数学建模 C题 天然气水合物资源量评价 原题再现: 天然气水合物(Natural Gas Hydrate/Gas Hydrate)即可燃冰,是天然气与水在高压低温条件下形成的类冰状结晶物质,因其外观像冰,遇火即燃&#…...
Qt中10倍提升动态截屏及渲染60帧/秒
Qt中10倍提升动态截屏及渲染60帧/秒 理解模态窗口和非模态窗口 在C中,窗口的**模态(Modal)和非模态(Modeless)**显示是两种不同的对话框或窗口行为模式,主要区别体现在用户交互和程序流程控制上。以下是它…...
OpenCV 基础全方位剖析:夯实计算机视觉开发根基
在计算机视觉的广袤领域中,OpenCV 是一座极为关键的里程碑。无论是在前沿的学术研究,还是在蓬勃发展的工业界,OpenCV 凭借其强大的功能与高效的性能,为开发者提供了丰富的图像处理和计算机视觉算法,助力无数项目落地。…...
Java试题
试题: 解析 1-5: 5: 6: 7: 8: 9: 10: 11: 12: 13:...
基于 arco 的 React 和 Vue 设计系统
arco 是字节跳动出品的企业级设计系统,支持React 和 Vue。 安装模板工具 npm i -g arco-cli创建项目目录 cd someDir arco init hello-arco-pro? 请选择你希望使用的技术栈React❯ Vue? 请选择一个分类业务组件组件库Lerna Menorepo 项目❯ Arco Pro 项目看到以…...
解密细胞衰老与溶解:AbMole助力胰腺癌研究新突破
近日,一项由德国罗斯托克大学医学中心的研究团队完成的研究,在探索胰腺癌细胞衰老与溶解的复杂机制上取得了重要进展。这项研究不仅深化了我们对胰腺癌生物学特性的理解,更为未来的研究开辟了新的方向。而在这场科学探索中,AbMole…...
罗德与施瓦茨FSU8,频谱分析仪
罗德与施瓦茨FSU8频谱分析仪 R&S FSU系列频谱仪是动态范围、相位噪声、电平精度和分辨率带宽等频谱仪指标,所有这些指标也是用户设计、测量和生产下一代无线通讯元件的重要保障。出色的表现能力 频率范围:从20Hz开始,分别到3.6 GHz, 8…...
【零基础JavaScript入门 | Day7】三大交互案例深度解析|从DOM操作到组件化开发
【零基础JavaScript入门 | Day7】三大交互案例深度解析|从DOM操作到组件化开发 🌟今日知识图谱: ✅ 事件驱动编程 → 按钮交互与定时器控制 ✅ 组件化思维 → 可复用UI模块开发 ✅ 用户体验优化 → 动画与状态反馈设计 ✅ 工程化实践 → 代码…...
[BalticOI 2009] Radio Transmission 无线传输
题目来自洛谷网站: KMP思路: 结论:n - ne[n] 模拟样例,如下图所示: 代码: #include<bits/stdc.h> #define int long long using namespace std; const int N 1e620;int n; char s[N]; int ne[N];…...
SvelteKit 最新中文文档教程(10)—— 部署 Cloudflare Pages 和 Cloudflare Workers
前言 Svelte,一个语法简洁、入门容易,面向未来的前端框架。 从 Svelte 诞生之初,就备受开发者的喜爱,根据统计,从 2019 年到 2024 年,连续 6 年一直是开发者最感兴趣的前端框架 No.1: Svelte …...
32位汇编:MASM32环境搭建与汇编窗口程序
引言 “汇编语言”是计算机底层的编程语言,直接操作硬件资源。32位汇编相比16位汇编在寄存器宽度、内存寻址和指令集等方面有了显著提升。本文将带你从零开始搭建32位汇编开发环境,并编写第一个窗口程序。 1. 环境搭建 1.1 下载MASM32 MASM32是一个专门…...
如何在 `php-fpm` 启动后自动运行自定义命令
如何在 php-fpm 启动后自动运行自定义命令 在使用 php-fpm 时,有时需要在 php-fpm 启动后自动运行一些自定义命令,例如启动一个 Web 应用程序。本文将详细介绍如何通过 systemd 的 ExecStartPost 指令实现这一功能,并记录解决过程中遇到的问…...
26考研——图_图的代码实操(6)
408答疑 文章目录 五、图的代码实操图的存储邻接矩阵结构定义初始化插入顶点获取顶点位置在顶点 v1 和 v2 之间插入边获取第一个邻接顶点获取下一个邻接顶点显示图 邻接表结构定义初始化图插入顶点获取顶点位置在顶点 v1 和 v2 之间插入边获取第一个邻接顶点获取下一个邻接顶点…...
栈资源释放示例
import java.util.EmptyStackException; /** * 栈资源释放示例类 * 栈资源在编程中通常指两种概念:1) 内存中的调用栈空间(存储方法调用和局部变量),由系统自动管理 * 2) 自定义的栈数据结构(如链表实现的栈对象&…...
【Qt 01】cmake搭建Qt VS2019开发环境
文章目录 准备第一步:安装Qt5 库第二步:编写CMakeLists.txt第三步:编写批处理文件其他配置Qt VS Toolsqt 源码调试配置 疑问初始的.ui, .qrc文件如何生成? 准备 编码:vscode debug: vs2019 Qt vs Tools 插件 c包管理…...
余弦退火算法与学习率预热
余弦退火算法与学习率预热 总述: (1)标准余弦退火算法(Cosine Annealing)是通过单次的余弦曲线调整学习率,在一个周期内让学习率从一个最大值平滑下降η_max到最小值η_min,这种调整模式是非周…...
ref vs reactive,watch vs watchEffect的区别与使用场景
一、ref 与 reactive 的核心区别 使用场景 ref:处理基本数据类型;需要重新赋值对象(如从api获取新数据) reactive:处理复杂的嵌套对象或者数组,不需要整体替换,直接访问属性(避免频繁写.value&…...
SQLark SQL编辑器秘籍,编写高效SQL查询
SQLark 是一款功能强大的数据库开发和管理工具,用于快速查询、创建和管理不同类型的数据库系统,支持达梦、Oracle 和 MySQL 数据库。SQLark内置的 SQL 编辑器,基于语法解析,集成智能提示、实时语法检查及语法高亮等功能࿰…...
LLM之RAG实战(五十二)| 如何使用混合搜索优化RAG 检索
在RAG项目中,大模型生成的参考内容(专业术语称为块)来自前一步的检索,检索的内容在很大程度上直接决定了生成的效果,因此检索对于RAG项目至关重要,最常用的检索方法是关键字搜索和语义搜索。本文将分别介绍…...
如何基于ios部署Deep Seek?
在 iOS 上部署深度学习模型(如 DeepSeek 或其他自定义模型)通常需要将模型转换为 iOS 支持的格式(如 Core ML),并通过代码集成到应用中。以下是详细步骤: 1. 准备模型 模型训练 确保你的模型已训练完成&…...
spring security 使用的过滤器还是拦截器
spring security 使用的过滤器还是拦截器 Spring Security 是一个强大的安全框架,用于保护 Java 应用程序。它主要使用过滤器(Filters)来实现安全功能,而不是拦截器(Interceptors)。不过,它也提…...
新四化驱动,如何构建智能汽车的“全场景”可进化互联网络?
在智能化、电动化、网联化、共享化的时代浪潮中,汽车正从单纯的 “机械产品” 进化为先进的 “移动智能终端”。 在软件定义汽车(SDV)的崭新时代,每一次 OTA 升级的顺利完成、每一秒自动驾驶的精准决策、每一帧车载娱乐交互的流畅…...
Rust从入门到精通之进阶篇:17.宏编程基础
宏编程基础 宏是 Rust 中强大的元编程工具,允许你编写可以生成其他代码的代码。与函数不同,宏在编译时展开,可以实现更灵活的代码生成和重用模式。在本章中,我们将探索 Rust 的宏系统,包括声明宏和过程宏的基础知识。 宏与函数的区别 在深入宏编程之前,让我们先了解宏…...
MySQL基础语法
目录 一、数据定义语言(DDL) 1. 创建数据库 2. 删除数据库 3. 创建表 4. 删除表 5. 查看表结构 6. 修改表结构 二、数据操作语言(DML) 1. 插入数据 2. 更新数据 3. 删除数据 三、数据查询语言(DQLÿ…...
数据结构练习二习题
第七题: #include<bits/stdc.h> using namespace std;#define MaxSize 100 // 定义顺序表的最大长度typedef int ElemType; // 定义元素类型为inttypedef struct {ElemType data[MaxSize]; // 存储数据的数组int length; // 当前顺序表的长度…...
Flutter 中 GetX 的优缺点及常见问题解决方案
在 Flutter 生态中,GetX 凭借其轻量级、高效的特性,成为众多开发者青睐的状态管理与路由解决方案。然而,任何工具都有其适用场景与局限性。 一、GetX 的核心优势 1. 极简开发体验 GetX 通过响应式语法糖(如Rx和Obx)…...
Qt开发:QColorDialog的使用
文章目录 一、QColorDialog的基本介绍二、QColorDialog的基本用法三、完整示例 一、QColorDialog的基本介绍 QColorDialog 继承自 QDialog,用于让用户选择颜色。它可以以模态或非模态的方式运行,并支持 QColor 作为输入和输出。 二、QColorDialog的基本…...
【计算机网络编码与调制】
文章目录 一、前言二、编码与调制的基本概念1. 编码常见编码类型: 2. 调制常见调制类型: 三、常见编码技术1. NRZ编码(Non-Return to Zero)特点: 2. 曼彻斯特编码(Manchester)特点: …...
<数据集>手势识别数据集<目标检测>
数据集下载链接https://download.csdn.net/download/qq_53332949/90529961数据集格式:VOCYOLO格式 图片数量:10829张 标注数量(xml文件个数):10829 标注数量(txt文件个数):10829 标注类别数:26 标注类别名称&…...
魔法测试:用本地多模态大模型(Qwen2.5-VL)将PDF转为Markdown文档
安装咒语清单 📜 pip install -U vllm qwen-vl-utils pdf2image pip install githttps://github.com/huggingface/transformers accelerate(温馨提示:念咒前请检查你的魔法棒(Python环境)是否兼容~) 第一阶段:PDF变…...
【渗透测试】Fastjson 反序列化漏洞原理(二)
目录 反序列化漏洞结合 RMI 攻击详解一、RMI 和 JNDI 的基础知识(1) RMI 简介(2) JNDI 简介 二、漏洞利用的核心原理1. 构造恶意 JSON 数据2. 设置恶意 RMI 服务3. 加载并执行恶意代码 三、具体利用过程环境准备攻击步骤1. 构造恶意 JSON 数据2. 设置恶意 RMI 服务3. 部署恶意类…...
[c语言日寄MAX]深度解析:大小端字节序
【作者主页】siy2333 【专栏介绍】⌈c语言日寄MAX⌋:这是一个专注于C语言刷题的专栏,精选题目,搭配详细题解、拓展算法。从基础语法到复杂算法,题目涉及的知识点全面覆盖,助力你系统提升。无论你是初学者,还…...
凝视型高光谱相机:钻石光谱分析研究与应用
钻石作为一种珍贵的宝石,其颜色和光谱特征一直是宝石学研究的重要方向。中达瑞和测试部样品科对六种不同颜色的钻石样品进行了高光谱成像测试,旨在分析它们在光谱下的差异和可分性。本文将详细介绍此次测试的过程、结果及其意义。 测试样品与设备 此次…...
2.基于多线程的TCP服务器实现
在我们预想中,服务器端应该能够同时与多个客户端建立连接并进行网络通信。然而,在之前的代码中,服务器实现只支持单一连接,因为在处理连接时,主线程会被accept()、read()或write()等方法阻塞,导致无法响应新…...