当前位置：首页 > news >正文

【WB 深度学习实验管理】利用 Hugging Face 实现高效的自然语言处理实验跟踪与可视化

news 来源：原创 2025/5/20 16:26:43

本文使用到的 Jupyter Notebook 可在GitHub仓库002文件夹找到，别忘了给仓库点个小心心~~~
https://github.com/LFF8888/FF-Studio-Resources

在自然语言处理领域，使用Hugging Face的Transformers库进行模型训练已经成为主流。然而，随着模型复杂度的增加和实验次数的增多，如何高效地跟踪和管理每一次实验的结果变得尤为重要。传统的日志记录方法往往繁琐且不够直观，难以满足快速迭代的需求。幸运的是，Weights & Biases（W&B）提供了一种轻量级的解决方案，能够无缝集成到Hugging Face的工作流程中，帮助开发者自动跟踪实验数据、可视化模型性能，并轻松比较不同架构和超参数设置的效果。本文将详细介绍如何利用这一强大组合，让每一次实验都清晰可溯，每一次优化都有据可依。

Hugging Face + W&B

通过无缝的 W&B 集成，快速可视化你的 Hugging Face 模型性能。
比较超参数、输出指标以及系统统计数据，如 GPU 利用率。

🤔 为什么我应该使用 W&B？

在这里插入图片描述

统一仪表盘：所有模型指标和预测的中央存储库
轻量级：无需代码更改即可与 Hugging Face 集成
可访问：个人和学术团队免费使用
安全：所有项目默认私有
可信：被 OpenAI、Toyota、Lyft 等机器学习团队使用

将 W&B 视为机器学习模型的 GitHub——将机器学习实验保存到你的私有托管仪表盘。快速实验，确保所有模型版本都已保存，无论你在哪里运行脚本。
W&B 的轻量级集成适用于任何 Python 脚本，你只需注册一个免费的 W&B 账户即可开始跟踪和可视化你的模型。

在 Hugging Face Transformers 仓库中，我们已将 Trainer 配置为在每个日志步骤自动将训练和评估指标记录到 W&B。
以下是集成工作原理的深入分析：Hugging Face + W&B 报告。

🚀 安装、导入和登录

安装 Hugging Face 和 Weights & Biases 库，以及本教程的 GLUE 数据集和训练脚本。

Hugging Face Transformers：自然语言模型和数据集
Weights & Biases：实验跟踪和可视化
GLUE 数据集：语言理解基准数据集
GLUE 脚本：用于序列分类的模型训练脚本

!pip install datasets wandb evaluate accelerate -qU
!wget https://raw.githubusercontent.com/huggingface/transformers/master/examples/pytorch/text-classification/run_glue.py

# run_glue.py 脚本需要 transformers dev 版本
!pip install -q git+https://github.com/huggingface/transformers

🖊️ 注册免费账户 →

🔑 输入你的 API 密钥

注册后，运行下一个单元格并点击链接获取你的 API 密钥以验证此笔记本。

import wandb

wandb.login()

可选地，我们可以设置环境变量以自定义 W&B 日志记录。查看文档。

# 可选：记录梯度和参数
%env WANDB_WATCH=all

👟 训练模型

接下来，调用下载的训练脚本 run_glue.py，并查看训练自动跟踪到 Weights & Biases 仪表盘。该脚本在 Microsoft Research Paraphrase Corpus 上微调 BERT——包含人类标注的句子对，指示它们是否语义等价。

%env WANDB_PROJECT=huggingface-demo
%env TASK_NAME=MRPC!python run_glue.py \--model_name_or_path bert-base-uncased \--task_name $TASK_NAME \--do_train \--do_eval \--max_seq_length 256 \--per_device_train_batch_size 32 \--learning_rate 2e-4 \--num_train_epochs 3 \--output_dir /tmp/$TASK_NAME/ \--overwrite_output_dir \--logging_steps 50

👀 在仪表盘中可视化结果

点击上面打印的链接，或访问 wandb.ai 查看你的结果实时流入。浏览器中查看你的运行的链接将在所有依赖项加载后出现——查找以下输出：“wandb: 🚀 View run at [URL to your unique run]”

可视化模型性能 轻松查看数十个实验，放大有趣的发现，并可视化高维数据。

在这里插入图片描述

比较架构 这是一个比较 BERT vs DistilBERT 的示例——通过自动折线图可视化，可以轻松查看不同架构如何影响训练期间的评估准确性。

在这里插入图片描述

📈 默认情况下轻松跟踪关键信息

Weights & Biases 为每个实验保存一个新的运行。以下是默认保存的信息：

超参数：模型设置保存在 Config 中
模型指标：流式传输的指标时间序列数据保存在 Log 中
终端日志：命令行输出保存在选项卡中
系统指标：GPU 和 CPU 利用率、内存、温度等

🤓 了解更多！

文档：Weights & Biases 和 Hugging Face 集成的文档
视频：教程、与从业者的访谈等，请访问我们的 YouTube 频道
联系我们：如有问题，请发送邮件至 contact@wandb.com

【WB 深度学习实验管理】利用 Hugging Face 实现高效的自然语言处理实验跟踪与可视化

本文使用到的 Jupyter Notebook 可在GitHub仓库002文件夹找到，别忘了给仓库点个小心心~~~ https://github.com/LFF8888/FF-Studio-Resources 在自然语言处理领域，使用Hugging Face的Transformers库进行模型训练已经成为主流。然而，随着模型复…...

编程日记 2025/5/20 16:26:43

ximalaya（三） playUriList值解密--webpack

本文主要介绍解密音频播放url参数。本文仅代表个人理解，如有其他建议可在评论区沟通。声明仅仅记录一下自己的学习方法，不作为其他参考、更不作为商业用途。如有侵犯请联系本人删除目标地址：aHR0cHM6Ly93d3cueGltYWxheWEuY29tL3NvdW5k…...

编程日记 2025/5/20 14:25:15

ES6 Map 数据结构是用总结

1. Map 基本概念 Map 是 ES6 提供的新的数据结构，它类似于对象，但是"键"的范围不限于字符串，各种类型的值（包括对象）都可以当作键。Map 也可以跟踪键值对的原始插入顺序。 1.1 基本用法 // 创建一个空Map…...

编程日记 2025/5/17 22:55:37

使用Redis实现业务信息缓存（缓存详解，缓存更新策略，缓存三大问题）-更新中

一、什么是缓存？ 缓存是一种高效的数据存储方式，它通过将数据保存在内存中来提供快速的读写访问。这种机制特别适用于需要高速数据访问的应用场景，如网站、应用程序和服务。在处理大量数据和高并发请求时， 缓存能显著提高性能和用…...

编程日记 2025/5/19 2:55:39

Windows 系统下使用 Ollama 离线部署 DeepSeek - R1 模型指南

引言随着人工智能技术的飞速发展，各类大语言模型层出不穷。DeepSeek - R1 凭借其出色的语言理解和生成能力，受到了广泛关注。而 Ollama 作为一款便捷的模型管理和部署工具，能够帮助我们轻松地在本地环境中部署和使用模型。本文将详细介绍如…...

编程日记 2025/5/19 9:57:47

1.2 变革里程碑：Transformer 的崛起

变革里程碑：Transformer 的崛起一、架构革命的核心驱动力 #mermaid-svg-hsXnwHI0wO2qZaqb {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#000000;}#mermaid-svg-hsXnwHI0wO2qZaqb .error-icon{fill:#552222;}#mermaid-sv…...

编程日记 2025/5/20 10:16:02

SpringBoot速成（八）登录实战：未登录不能访问 P5-P8

1.登录 package com.itheima.springbootconfigfile.controller;import com.itheima.springbootconfigfile.pojo.Result; import com.itheima.springbootconfigfile.pojo.User; import com.itheima.springbootconfigfile.service.UserService;import com.itheima.springbootco…...

编程日记 2025/5/20 8:28:21

[Unity角色控制专题] 详细说明如何使用Character Controller配合脚本实现类似MC的第一人称控制（仅移动与视角摇晃）

关于角色控制器的基本用法我就不做介绍了，请自行查看相关文档： Unity - Manual: Character Controller component reference 本文用到了三角函数和插值函数，非常简单，如有疑问请查询以下文章: Unity中的数学之 Mathf_uni…...

编程日记 2025/5/19 14:40:51

2025_2_9 C语言中队列

1.队列（先进先出） 队列也是一种受限制的线性结构它只能在一端添加元素，在另一端访问，删除元素 （队首插入，队尾删除） 因为链表实现没有数组实现快，所以队列大多数是用数组实现的 q…...

编程日记 2025/5/16 21:37:32

（原创，可用）SSH实现内外网安全穿透（安全不怕防火墙）

目前有A、B终端和一台服务器，A、B机器不能直接访问，服务器不能直接访问A、B终端但是A、B终端可以访问服务器，这个场景很像我们有一台电脑在单位内网，外机器想访问内网系统，可能大家目前想到的就是frp之类穿透工具&…...

编程日记 2025/5/19 18:35:24

mysql安装starting the server报错

win10家庭版无法启动服务的，先不要退出，返回上一栏，然后通过电脑搜索栏输入服务两个字，在里面找到mysql80，右键属性-登录，登录身份切换为本地系统就行了...

编程日记 2025/5/20 15:55:37

设计高效的测试用例：从需求到验证

在现代软件开发过程中，测试用例的设计一直是质量保证（QA）环节的核心。有效的测试用例不仅能够帮助发现潜在缺陷，提升软件质量，还能降低后期修复成本，提高开发效率。尽管如此，如何从需求出发&…...

编程日记 2025/5/20 16:12:55

【阅读笔记】信息熵自动曝光An Automatic Exposure Algorithm Based on Information Entropy

一、算法背景信息熵作为衡量图像信息量的重要指标，能够反映图像的细节丰富程度。通过基于信息熵的自动曝光算法，可以自动调整曝光时间，使图像包含更多信息，从而提高图像质量。灰度直方图在各个灰度值上分布越均匀，…...

编程日记 2025/5/17 4:17:23

Dockerfile 文件详解

在平常的开发工作中，我们经常需要部署项目，一个项目开发完成后，使用 Docker 方式部署，那么首先得构造镜像，构造镜像最主要的就是 Dockerfile 文件的编写，今天简单来总结下 Dockerfile 文件的编写以及有哪些…...

编程日记 2025/5/20 15:33:33

模型压缩 --学习记录2

模型压缩 --学习记录2 如何找到更好的权衡方式（模型量化）方法一：寻找更好的 range方法二：寻找更好的 X-fp32（浮点数）方法三：寻找更好的 scale 和 zp方法四：寻找更好的 roundPTQ 后训练量化（离线量化）QAT 量化感知训练(在线量化)量化为什么会带来加速?三、模型稀疏技…...

编程日记 2025/5/20 16:18:55

JVM常见命令

引言掌握JVM是属于Java程序员的必修课，对线程的掌控，对内存的把控，所以了解JVM常见命令可以帮助我们快速了解虚拟机的详细数据命令 1. java 这是最基础的命令，用于启动一个 Java 应用程序。 java -cp /path/to/your/class…...

编程日记 2025/5/20 7:14:39

ASP.NET Core托管服务

目录托管服务的异常问题托管服务中使用DI 托管服务案例：数据的定时导出场景，代码运行在后台。比如服务器启动的时候在后台预先加载数据到缓存，每天凌晨3点把数据导出到备份数据库，每隔5秒钟在两张表之间同步一次数据。托管服…...

编程日记 2025/5/20 16:12:56

模型压缩中的四大核心技术 —— 量化、剪枝、知识蒸馏和二值化

一、量化 (Quantization) 量化的目标在于将原始以 32 位浮点数表示的模型参数和中间激活，转换为低精度（如 FP16、INT8、甚至更低位宽）的数值表示，从而在减少模型存储占用和内存带宽的同时，加速推理运算，特别适用于移动、嵌入式和边缘计算场景。 1.1 概念与目标基本思想…...

编程日记 2025/5/20 14:10:43

C++：类和对象初识

C：类和对象初识前言类的引入与定义引入定义类的两种定义方法1. 声明和定义全部放在类体中2. 声明和定义分离式类的成员变量命名规则类的访问限定符及封装访问限定符封装类的作用域与实例化类的作用域类实例化实例化方式： 类对象模型类对象的大小存储…...

编程日记 2025/5/18 22:58:07

01-SDRAM控制器的设计——案例总概述

本教程重点▷▷▷ 存储器简介。介绍 SDRAM 的工作原理。详细讲解SDRAM 控制的Verilog 实现方法。 PLL IP和FIFO IP 的调用，计数器设计，按键边沿捕获，数码管控制。完成SDRAM控制器应用的完整案例。 Signal Tap 调试方法。准备工作▷…...

编程日记 2025/5/20 15:55:37

笔记：蓝桥杯python搜索（3-2）——DFS剪支和记忆化搜索

目录一、DFS剪支二、例题 P2942 数字王国之军训军队 P3075 特殊的多边形三、记忆化搜索四、例题例题 P3820 混境之地 P216 地宫取宝一、DFS剪支在搜索过程中，如果需要完全遍历所有情况可能需要很多时间在搜索到某种状态时，根据当前状态判断…...

编程日记 2025/5/18 8:05:01

处理数据及其选择关键列进行一次聚类

1. 数据加载与初步处理 # 文件路径 file_path ../data/all_database_result.csv# 读取CSV文件到DataFrame df pd.read_csv(file_path)# 选择特定的特征列 selected_features [Q10, Q12, Q13, Q14]# 缺失值处理：这里简单地删除含有任何缺失值的行 df.dropna(subse…...

编程日记 2025/5/18 23:40:55

Qt 支持的动画格式对比，Lottie/APNG/GIF/WEBP

Qt版本：6.7.2 ， QML 一，Lottie 在qml中使用LottieAnimation即可，但有三个问题： 1.动画加载中报错： 如果图片（.json)本身存在不支持的effect 或shape type等，效果并不好&#xff1a…...

编程日记 2025/5/15 21:12:43

FaceFusion如何设置公开链接和端口

有时候我们想在局域网内的其他设备上使用 FaceFusion，这时候需要设置公开链接和端口。当你运行 FaceFusion 的时候，会发现有这样的一段提示： To create a public link, set shareTrue in launch().但是这个提示是错的，如果你查…...

编程日记 2025/5/19 7:29:33

【安当产品应用案例100集】037-强化OpenVPN安全防线的卓越之选——安当ASP身份认证系统

在当前数字化时代，网络安全已成为企业发展的重要组成部分。对于使用OpenVPN的企业而言，确保远程访问的安全性尤为重要。安当ASP身份认证系统凭借其强大的功能和便捷的集成方式，为OpenVPN的二次登录认证提供了理想的解决方案，特别是…...

编程日记 2025/5/20 6:53:29

RK3568实战项目(六)--开发工具介绍

目录一、引言二、开发工具 ------>2.1、trust_merger ------>2.2、boot_merger ------>2.3、loaderimage ------>2.4、resource_tool ------>2.5、mkimage ------>2.6、mkbootimg ------>2.7、unpack_bootimg ------>2.8、repack-bootimg …...

编程日记 2025/5/16 10:34:38

01.02、判定是否互为字符重排

01.02、[简单] 判定是否互为字符重排 1、题目描述给定两个由小写字母组成的字符串 s1 和 s2，请编写一个程序，确定其中一个字符串的字符重新排列后，能否变成另一个字符串。在这道题中，我们的任务是判断两个字符串 s1 和 s2 是…...

编程日记 2025/5/20 6:49:08

尝试一下，交互式的三维计算python库，py3d

py3d是一个我开发的三维计算python库，目前不定期在PYPI上发版，可以通过pip直接安装 pip install py3d 开发这个库主要可视化是想把自己在工作中常用的三维方法汇总积累下来，不必每次重新造轮子。其实现成的python库也有很多，例如…...

编程日记 2025/5/18 9:03:55

DeepSeek-R1模型的数学原理（说人话）

文章目录 1、什么是GRPO2、数学原理3、比喻4、流程总结 🍃作者介绍：双非本科大四网络工程专业在读，阿里云专家博主，前三年专注于Java领域学习，擅长web应用开发，目前已转行人工智能领域。 🦅个人…...

编程日记 2025/5/20 1:18:52

安宝特方案 | AR助力制造业安全巡检智能化革命！

引言： 在制造业中，传统巡检常面临流程繁琐、质量波动、数据难以追溯等问题。安宝特AR工作流程标准化解决方案，通过增强现实AR技术，重塑制造业安全巡检模式，以标准化作业流程为核心，全面提升效率、质量与…...

编程日记 2025/5/20 3:52:57

DeepSeek和ChatGPT的对比

最近DeepSeek大放异彩，两者之间有什么差异呢？根据了解到的信息，简单做了一个对比。 DeepSeek 和 ChatGPT 是两种不同的自然语言处理（NLP）模型架构，尽管它们都基于 Transformer 架构，但在设计目标…...

编程日记 2025/5/19 10:07:42

AJAX项目——数据管理平台

黑马程序员视频地址： 黑马程序员——数据管理平台前言功能： 1.登录和权限判断 2.查看文章内容列表（筛选，分页） 3.编辑文章（数据回显） 4.删除文章 5.发布文章（图片上传&#xff0…...

编程日记 2025/5/20 11:45:44

神经网络常见激活函数 5-PReLU函数

文章目录 PReLU函数导函数函数和导函数图像优缺点pytorch中的PReLU函数tensorflow 中的PReLU函数 PReLU 参数化修正线性单元:Parametric ReLU 函数导函数 PReLU函数 P R e L U { x x > 0 α x x < 0 ( α 是可训练参数 ) \rm PReLU \left\{ \begin{array}{} x \qua…...

编程日记 2025/5/19 10:29:21

艾蒿染色体水平基因组-文献精读111

A chromosome-scale genome assembly of Artemisia argyi reveals unbiased subgenome evolution and key contributions of gene duplication to volatile terpenoid diversity 一项关于艾蒿（Artemisia argyi）的染色体尺度基因组组装揭示了无偏的亚基因…...

编程日记 2025/5/16 13:40:57

EB生成配置的过程

EB Tresos Studio，简称EB，通过图形化的模式进行配置生成，并根据选项配置生成配置代码，即 MCAL 层各个模块的配置参数。在 MCAL 代码中，分为静态代码和配置代码。静态代码，就是 AUTOSAR 规范内容，包含对硬件的封装以及标准化接口的封装；配置代码一般用于配置初始化结构…...

编程日记 2025/5/20 10:11:28

使用Docker + Ollama在Ubuntu中部署deepseek

1、安装docker 这里建议用docker来部署，方便简单安装教程需要自己找详细的，会用到跳过如果你没有安装 Docker，可以按照以下步骤安装： sudo apt update sudo apt install apt-transport-https ca-certificates curl software-p…...

编程日记 2025/5/16 6:10:44

NFT Insider #168：The Sandbox 推出新春{金蛇礼服}套装；胖企鹅合作 LINE Minini

引言：NFT Insider 由 NFT 收藏组织 WHALE Members、BeepCrypto 联合出品， 浓缩每周 NFT 新闻，为大家带来关于 NFT 最全面、最新鲜、最有价值的讯息。每期周报将从 NFT 市场数据，艺术新闻类，游戏新闻类，虚拟…...

编程日记 2025/5/20 12:35:52

字符串高频算法：无重复字符的最长子串

题目 3. 无重复字符的最长子串 - 力扣（LeetCode） 解题思路思路方法: 滑动窗口 [!简单思路] [^1]以示例一中的字符串 abcabcbb 为例，找出从每一个字符开始的，不包含重复字符的最长子串，其中最长的那个字符串即为答…...

编程日记 2025/5/20 10:23:19

集成学习（一）：从理论到实战(附代码)

一、引言在机器学习领域，打造一个独立、强大的算法是解决问题的关键。然而，集成学习提供了一种不同的视角：通过组合多个“弱”学习器来创建一个更强大的模型。本文探讨集成学习的思想、方法及其应用。二、机器学习 vs 集成学习思想传统…...

编程日记 2025/5/12 23:11:37

本地部署DeepSeek-R1模型（新手保姆教程）

背景最近deepseek太火了，无数的媒体都在报道，很多人争相着想本地部署试验一下。本文就简单教学一下，怎么本地部署。首先大家要知道，使用deepseek有三种方式： 1.网页端或者是手机app直接使用 2.使用代码调用API …...

编程日记 2025/5/18 22:57:34

轻松理解CSS中的float浮动元素

1.float:left，float:right可以让元素脱离原始文档流，也就是所谓的“浮动”，可以理解为元素漂浮在原本所占位置的上空，意思是元素漂浮起来了，不占原始文档流的空间。但是，别的元素可以感知到浮动元素的存在&…...

编程日记 2025/5/19 19:06:26

SOME/IP--协议英文原文讲解5

前言 SOME/IP协议越来越多的用于汽车电子行业中，关于协议详细完全的中文资料却没有，所以我将结合工作经验并对照英文原版协议做一系列的文章。基本分三大块： 1. SOME/IP协议讲解 2. SOME/IP-SD协议讲解 3. python/C举例调试讲解这一章节…...

编程日记 2025/5/14 11:16:41

如何优化频繁跳槽后的简历？

大家好！我是 [数擎 AI]，一位热爱探索新技术的前端开发者，在这里分享前端和 Web3D、AI 技术的干货与实战经验。如果你对技术有热情，欢迎关注我的文章，我们一起成长、进步！ 开发领域：前端开发 | A…...

编程日记 2025/5/19 14:00:19

存储异常导致的Oracle重大生产故障

📢📢📢📣📣📣 作者：IT邦德中国DBA联盟(ACDU)成员，10余年DBA工作经验 Oracle、PostgreSQL ACE CSDN博客专家及B站知名UP主，全网粉丝10万擅长主流Oracle、MySQL、PG、高斯…...

编程日记 2025/5/20 11:45:37

从家庭IP到全球网络资源的无缝连接：Cliproxy的专业解决方案

数字化时代，家庭IP作为个人或家庭接入互联网的门户，其重要性日益凸显。然而，要实现从家庭IP到全球网络资源的无缝连接，并享受高效、安全、稳定的网络访问体验，往往需要借助专业的代理服务。Cliproxy，作为业…...

编程日记 2025/5/19 11:30:36

java项目之金华学校社团管理系统源码(ssm+mysql)

项目简介金华学校社团管理系统实现了以下功能： 金华学校社团管理系统的主要使用者管理员对系统用户、公告信息进行管理。对社团信息进行管理，审核报名，统计社团报名结果等。学生维护个人信息，查看本校的社团信息，对…...

编程日记 2025/5/17 0:42:19

链表(LinkedList) 1

上期内容我们讲述了顺序表，知道了顺序表的底层是一段连续的空间进行存储(数组)，在插入元素或者删除元素需要将顺序表中的元素整体移动，时间复杂度是O(n)，效率比较低。因此，在Java的集合结构中又引入了链表来解决这一问…...

编程日记 2025/5/19 14:15:05

一、OSG学习笔记-编译开发环境

一、准备工作 1、osg3.6.4源码下载； openscenegraph/OpenSceneGraph at OpenSceneGraph-3.6.4 还有osg中所依赖的第三方库 2、cmake 下载安装好 3、Visual Studio 2019下载安装好二、cmake 编译构建项目这里下方1，2，两个先点击1&am…...

编程日记 2025/5/18 12:57:05

【Redis】Linux、Windows、Docker 环境下部署 Redis

一、Linux环境部署Redis 1、卸载 # 查看 Redis 是否还在运行 [appuserlocalhost redis]$ ps -ef|grep redis appuser 135694 125912 0 14:24 pts/1 00:00:00 ./bin/redis-server *:6379 appuser 135731 125912 0 14:24 pts/1 00:00:00 grep --colorauto redis# 停止…...

编程日记 2025/5/16 1:16:17

OSPF基础（3）：区域划分

OSPF的区域划分 1、区域产生背景路由器在同一个区域中泛洪LSA。为了确保每台路由器都拥有对网络拓扑的一致认知，LSDB需要在区域内进行同步。OSPF域如果仅有一个区域，随着网络规模越来越大，OSPF路由器的数量越来越多，这将导致诸…...

编程日记 2025/5/20 13:08:36

Hugging Face + W&B

🤔 为什么我应该使用 W&B？

🚀 安装、导入和登录

🖊️ 注册免费账户 →

🔑 输入你的 API 密钥

👟 训练模型

👀 在仪表盘中可视化结果

📈 默认情况下轻松跟踪关键信息

🤓 了解更多！

相关文章：