当前位置：首页 > news >正文

深度学习中独热编码(One-Hot Encoding)

news 来源：原创 2025/6/8 12:36:24

文章目录

独热编码
- 独热编码的作用
- 独热编码的优点
- 独热编码的缺点
- 场景选择
- 独热编码（PyTorch实现）
- 替代方案
实际使用分析：对对象类型使用独热编码
- 为什么使用独热编码是合适的？
- - - 📌 场景说明：
    - 📌 为什么要用独热编码？
    - 📌 示例验证：
  - 🔍 建议改进（可选）：

独热编码

独热编码(One-Hot Encoding)是一种将分类变量转换为机器学习算法更易理解形式的编码方法。在深度学习中，它常用于处理离散型分类特征，特别是当这些特征没有内在的顺序关系时。
独热编码的基本思想是：对于一个有 $N$ 个不同类别的分类变量，创建一个长度为 $N$ 的二进制向量，其中只有一位是1（表示当前类别），其余都是0。例如，对于"颜色"这个分类变量，可能的取值有[“红”, “绿”, “蓝”]：
- “红” → [1, 0, 0]
- “绿” → [0, 1, 0]
- “蓝” → [0, 0, 1]

独热编码的作用

解决分类数据不可计算问题：原始的分类标签（如"红"、“绿”、“蓝”）无法直接参与数学运算，转换为数值形式后可以被模型处理。
消除类别间的虚假顺序关系：如果简单地将类别映射为1,2,3等数字，模型可能会错误地认为这些数字之间存在顺序或距离关系。
适应分类输出的需求：在分类任务中，神经网络的输出层通常使用softmax激活函数，需要与独热编码形式的标签配合使用。

独热编码的优点

简单直观：编码方式直接，易于理解和实现。
保留类别平等性：所有类别在编码后都具有相同的距离（欧氏距离为√2），没有隐含的优先级。
兼容大多数算法：适用于各种机器学习算法，特别是神经网络。
处理新增类别方便：在测试集中出现新类别时，可以简单地扩展编码维度。

独热编码的缺点

维度灾难：当类别数量很多时（如词汇表很大的文本数据），编码后的特征空间会变得非常稀疏和高维。
信息独立假设：假设各个类别之间完全独立，忽略了可能存在的内在关系。
内存消耗大：高维稀疏表示会占用较多内存。
不适合有序分类变量：对于有明确顺序关系的分类变量（如"小"、“中”、“大”），独热编码会丢失顺序信息。

场景选择

适用场景：适用于无序的类别型特征（如颜色、性别等）。
不适用情况：对于有序的类别（如“低”、“中”、“高”），通常更适合用标签编码（Label Encoding）或者根据具体问题设计其他编码方式。

独热编码（PyTorch实现）

PyTorch示例展示如何使用独热编码处理分类数据：

import torch
import torch.nn as nn
import torch.optim as optim# 示例数据：3个样本，每个样本有2个分类特征
# 特征1: 颜色 ["红", "绿", "蓝"] → 3个类别
# 特征2: 大小 ["小", "中", "大"] → 3个类别
raw_data = [['红', '大'],['绿', '中'],['蓝', '小']
]
print("\n原始数据:")
print(raw_data)# 定义类别映射
color_map = {'红': 0, '绿': 1, '蓝': 2}
size_map = {'小': 0, '中': 1, '大': 2}# 转换为索引
index_data = [  [color_map[x[0]], size_map[x[1]]] for x in raw_data ]# 转换为PyTorch张量
index_tensor = torch.LongTensor(index_data)
print("\n索引表示:")
print(index_tensor)# 使用scatter_进行独热编码
def one_hot_encode(index_tensor, num_classes):# 创建一个全零张量 (样本数 × 类别数)one_hot = torch.zeros(index_tensor.size(0), num_classes)# 使用scatter_将对应位置设为1one_hot.scatter_(1, index_tensor.unsqueeze(1), 1)return one_hot# 对每个特征单独编码
color_one_hot = one_hot_encode(index_tensor[:, 0], num_classes=3)
size_one_hot = one_hot_encode(index_tensor[:, 1], num_classes=3)# 合并特征
features = torch.cat([color_one_hot, size_one_hot], dim=1)print("\n独热编码后的特征矩阵:")
print(features)# 示例模型训练
# 假设我们有一个简单的分类任务
# 创建一些随机标签
labels = torch.LongTensor([0, 1, 0])# 定义一个简单模型
class SimpleClassifier(nn.Module):def __init__(self, input_size, hidden_size, num_classes):super(SimpleClassifier, self).__init__()self.fc1 = nn.Linear(input_size, hidden_size)self.relu = nn.ReLU()self.fc2 = nn.Linear(hidden_size, num_classes)def forward(self, x):out = self.fc1(x)out = self.relu(out)out = self.fc2(out)return out# 初始化模型
input_size = 6  # 3(颜色) + 3(大小)
hidden_size = 4
num_classes = 2
model = SimpleClassifier(input_size, hidden_size, num_classes)# 定义损失函数和优化器
criterion = nn.CrossEntropyLoss()
optimizer = optim.Adam(model.parameters(), lr=0.01)# 训练循环
for epoch in range(100):# 前向传播outputs = model(features.float())loss = criterion(outputs, labels)# 反向传播和优化optimizer.zero_grad()loss.backward()optimizer.step()if (epoch+1) % 10 == 0:print(f'Epoch [{epoch+1}/100], Loss: {loss.item():.4f}')# 测试模型
with torch.no_grad():outputs = model(features.float())_, predicted = torch.max(outputs.data, 1)print("\n预测结果:", predicted)

替代方案

对于类别数量特别多的情况，可以考虑以下替代方案：

嵌入层(Embedding Layer)：特别适用于自然语言处理任务，将高维独热向量映射到低维连续空间。
二进制编码：使用二进制位来表示类别，可以减少维度。
特征哈希：使用哈希函数将类别映射到固定维度的向量。
目标编码：用目标变量的统计量（如均值）来代表类别。

实际使用分析：对对象类型使用独热编码

# 对对象类型的特征进行独热编码
all_features = pd.get_dummies(all_features, columns=object_feats, dummy_na=True)

这行代码会对所有非数值型（object 类型）的特征列进行 One-Hot 编码，并且设置 dummy_na=True 会把缺失值（NaN）也作为一个单独的类别处理。

为什么使用独热编码是合适的？

📌 场景说明：

数据集中包含一些类别型特征（如：房屋所在区域、建筑风格等），它们通常以字符串或枚举形式存在。
神经网络模型只能处理数值型数据，无法理解字符串或其他非结构化格式。

📌 为什么要用独热编码？

避免模型误认为类别之间有大小关系（例如“East”和“West”不能被解释为0 < 1）。
将类别信息转换为神经网络可以接受的二进制向量表示形式。
提高模型区分不同类别的能力。

📌 示例验证：

比如原始数据中有如下一列：

Neighborhood
East
West
North

经过独热编码后变成：

Neighborhood_East	Neighborhood_West	Neighborhood_North	Neighborhood_nan
1	0	0	0
0	1	0	0
0	0	1	0
0	0	0	1 (如果原值是 NaN)

这样每个类别都变成了独立的数值型特征列，便于模型学习。

🔍 建议改进（可选）：

如果希望未来避免手动调用 pd.get_dummies()，可以考虑使用更鲁棒的方式处理类别特征，例如：
使用 sklearn.preprocessing.OneHotEncoder（支持更多控制和保存编码器状态）
使用 torch.nn.Embedding（适用于大量类别或嵌入式编码）

深度学习中独热编码(One-Hot Encoding)

文章目录独热编码独热编码的作用独热编码的优点独热编码的缺点场景选择独热编码（PyTorch实现）替代方案实际使用分析：对对象类型使用独热编码为什么使用独热编码是合适的？📌 场景说明：📌 为什么…...

编程日记 2025/5/25 3:50:29

如何根据竞价数据判断竞价强度，是否抢筹等

竞价强度判断方法价格变化幅度观察开盘价与前一交易日收盘价的差距 ：如果一只股票在开盘集合竞价阶段价格大幅高于前一交易日收盘价，说明市场对该股票的预期较为积极，可能有资金在主动抬高价格，这是一种较强的竞价强度表现。例如…...

编程日记 2025/5/22 9:41:27

Codex与LangChain结合的智能代理架构：重塑软件开发的未来

🔥「炎码工坊」技术弹药已装填！点击关注 → 解锁工业级干货【工具实测|项目避坑|源码燃烧指南】引言：当代码生成遇见智能决策想象以下场景：凌晨三点：你需要紧急修复一个遗留系统的内存泄漏漏洞，但代码注释缺失且逻辑复杂；产品经理需求变更：要求在24小时内将现有…...

编程日记 2025/5/27 10:14:50

2025年PMP 学习十八第11章项目风险管理（11.5~11.7）

2025年PMP 学习十八第11章项目风险管理 （11.5~11.7） 第11章项目风险管理序号过程过程组1规划风险管理规划2识别风险规划3实施定性风险分析规划4实施定量风险分析规划5规划风险应对执行6实施风险应对执行7监控风险监控文章目录 2025年PMP 学习十八…...

编程日记 2025/5/29 12:54:47

2025年PMP 学习十七第11章项目风险管理（11.1~11.4）

2025年PMP 学习十七第11章项目风险管理 （11.1~11.4） 第11章项目风险管理序号过程过程组1规划风险管理规划2识别风险规划3实施定性风险分析规划4实施定量风险分析规划5规划风险应对执行6实施风险应对执行7监控风险监控文章目录 2025年PMP 学习十七…...

编程日记 2025/5/24 20:08:30

impala

Impala，它是 Cloudera 开发的开源实时 SQL 查询引擎，专为 Hadoop 设计。与 Presto 类似，Impala 用于交互式分析，但架构和设计理念有所不同。以下是 Impala 的核心特点和工作原理： 一、Impala 核心架构 1. 组件组成 …...

编程日记 2025/5/29 17:32:52

湖北理元理律师事务所：债务优化中的双维支持实践解析

在债务压力与生活质量失衡的社会议题下，法律服务机构的功能边界正在从单一的法律咨询向复合型支持延伸。湖北理元理律师事务所通过“法律心理”双维服务模式，探索债务优化与生活保障的平衡路径，其方法论或为行业提供实践参考。法律框架&…...

编程日记 2025/5/29 13:02:44

Redis设计与实现——Redis命令参考与高级特性

Redis命令参考数据类型相关命令 SET：设置键值，支持过期时间、不存在/存在条件。GET：获取键值，若键不存在返回 nil。INCR/DECR：将键的整数值增1/减1，键不存在时初始化为0。MSET/MGET：批量设置…...

编程日记 2025/5/18 12:30:48

TCP/UDP协议原理和区别笔记

从简单到难吧区别就是TCP一般用于安全稳定的需求，UDP一般用于不那么需要完全数据的需求，比如说直播，视频等。再然后就是TPC性能慢于UDP。再然后我们看TCP的原理（三次握手，数据传输，四次挥手&#xff0…...

编程日记 2025/5/29 21:21:13

JavaScript基础-对象的相关概念

在JavaScript中，对象是核心的数据结构之一，几乎所有的高级功能都围绕着对象展开。理解对象的基本概念、创建方法以及操作方式对于掌握JavaScript至关重要。本文将详细介绍JavaScript中对象的相关概念，包括对象的定义、属性的操作、原型链和面…...

编程日记 2025/5/24 8:40:06

如何通过交流沟通实现闭环思考模式不断实现自身强效赋能-250517

感谢一直以来和我交流沟通的朋友们。闭环思考文字部分（25-05-04）这一天是青年节，在这一天与青年朋友交流这个是事先规划好的： “可以猜一猜，博士会被撤销吗？导师会被处理吗？千万不要回复&…...

编程日记 2025/5/24 2:32:08

震荡指标工具

一、引言 - 可视化数字烛台工具是对传统蜡烛图的补充，旨在帮助交易者更有效地进入和退出交易，提高交易利润。 - 通过分析蜡烛图，结合烛台震荡指标，提出了一个辅助视觉工具来辅助交易决策。二、烛台指标与交易策略 -图表通过平均开…...

编程日记 2025/6/2 20:56:14

【自然语言处理与大模型】大模型（LLM）基础知识④

（1）微调主要用来干什么？ 微调目前最主要用在定制模型的自我认知和改变模型对话风格。模型能力的适配与强化只是辅助。定制模型的自我认知：通过微调可以调整模型对自我身份、角色功能的重新认知，使其回答更加符合自定义…...

编程日记 2025/5/30 8:09:12

返回码的方案对比和思考

前言一般我们定义 Restful 接口返回码，常见的就是 const 定义 code ， StatusToText() 来实现定义 msg， 在封装1 ~ 2个返回方法（success、error）就可以实现，只是突然想到这样设计是违反开闭原则的&#xf…...

编程日记 2025/5/25 9:21:42

Flink 的任务槽和槽共享

在 Apache Flink 中，任务槽（Task Slot） 和槽共享组（Slot Sharing Group） 是资源管理和任务调度的关键机制。它们决定了 Flink 如何在集群中分配资源并执行任务。一、任务槽（Task Slot） 1. 定…...

编程日记 2025/5/29 13:20:10

实验七基于Python的数字图像水印算法

一、实验目的掌握图像水印的应用； 掌握我国版权保护的发展现状； 掌握常见的数字图像水印算法。二、实验内容学习内容补充： 数字水印的鲁棒性评价主要采用含水印图像提取出的水印与原始水印的相似程度,使用归一化相关(NC，Nor…...

编程日记 2025/5/29 22:53:19

C语言：在 Win 10 上，gcc 如何编译 gtk 应用程序

在 Windows 10 上使用 g（或 gcc）编译基于 GTK 的 C 语言程序是完全可行的，且相比 Tcc 更为推荐，因为 g（GNU 编译器套件）对 GTK 的支持更加完善，配置也更简单。以下是详细步骤和注意事项&#xf…...

编程日记 2025/5/24 14:12:22

Vue.js---watch 的实现原理

4.7 watch 的实现原理 watch本质上就是使用了effect以及options.scheduler 定义watch函数： // watch函数:传入参数source以及回调函数function watch(source , cb) {effect(() > source.foo,{scheduler(){// 回调函数cb()}})}watch接收两个参数分别是source和c…...

编程日记 2025/5/27 6:31:34

Linux_ELF文件

目录前言： 一、ELF文件的类型二、ELF文件的组成格式 1. ELF头部(ELF Header) 2. 节头表(Section Header Table) 3. 程序头表(Program Header Table) 4. 节(Sections)与段(Segments) 三、ELF文件从形成到加载轮廓 1、ELF可执行文件形成过程 2、可执行文…...

编程日记 2025/5/22 7:58:07

磁盘I/O子系统

一、数据写入磁盘流程当执行向磁盘写入数据操作的时候，会发生如下的一系列基本操作。假设文件数据存在于磁盘扇区上，并且已经被读入到页缓存中。进程使用write()系统调用写入文件。内核更新映射到文件的page cache。内核线程pdflush负责把页缓存刷入…...

编程日记 2025/5/26 14:54:03

【2025 技术指南】如何创建和配置国际版 Apple ID

想要体验更丰富的应用生态、使用国际版专属服务，或访问更多开发者工具？一个国际版 Apple ID 能帮你实现这些需求。本教程将详细介绍如何注册国际版 Apple ID 并正确配置支付信息，全程操作简单，适合开发者和技术爱好者参考。一、准…...

编程日记 2025/5/18 12:13:02

C++（20）：文件输入输出库 —— ＜fstream＞

目录一、的核心功能二、核心类及功能三、核心操作示例 1. 文本文件写入（ofstream） 2. 文本文件读取（ifstream） 3. 二进制文件操作（fstream） 四、文件打开模式五、文件指针操作六、错误处理技巧…...

编程日记 2025/5/27 7:16:08

05、基础入门-SpringBoot-HelloWorld

05、基础入门-SpringBoot-HelloWorld ## 一、Spring Boot 简介 **Spring Boot** 是一个用于简化 **Spring** 应用初始搭建和开发的框架，旨在让开发者快速启动项目并减少配置文件。 ### 主要特点 - **简化配置**：采用“约定优于配置”的原则，减…...

编程日记 2025/5/29 18:05:34

深入理解指针(6)

目录 1 sizeof和strlen的对⽐ 1.1 sizeof 编辑1.2strlen 1.3 sizeof 和 strlen的对⽐ 2 数组和指针笔试题解析 2.1 ⼀维数组编辑 2.2 字符数组 3 指针运算笔试题解析 3.1 题⽬1： 编辑3.2 题目2 3.3 题目3 3.4 题目4 3.5 题目5 3.6 题目6 3.7…...

编程日记 2025/5/29 22:58:34

力扣HOT100之二叉树：108. 将有序数组转换为二叉搜索树

这道题之前做过，思路又给忘了，这道题用递归做是最简单的。由于得到的数组是有序的，我们只需要取出中间位置的元素medium作为根节点，然后medium左边的剩余元素组成根节点的左子树，medium右边的剩余元素组成根节点的右子…...

编程日记 2025/5/26 10:38:22

手撕I2C和SPI协议实现

手撕I2C和SPI协议实现目录 I2C协议原理I2C位操作实现I2C驱动代码编写SPI协议原理SPI位操作实现SPI驱动代码编写 I2C协议原理 I2C（Inter-Integrated Circuit）是一种串行通信总线，使用两根线：SCL（时钟线&#xff09…...

编程日记 2025/5/29 17:05:47

452. Minimum Number of Arrows to Burst Balloons

题目描述这道题用leetcode官方的解答反而搞复杂了。本题其实就是求重叠区间的交集。先按照区间左端点从小到大排序。然后拿出第一个区间作为【当前区间交集】的初始值。遍历后面的区间看那个区间和【当前交集】是否有重叠。如果有重叠则将【当前交集】和【当前区间】求交集并更…...

编程日记 2025/5/22 20:02:19

React 中，闭包陷阱

文章目录前言1. 经典闭包陷阱示例过期状态问题 2. 解决方案2.1 正确声明依赖数组2.2 使用 useRef 捕获最新值**2.3 使用函数式更新（针对状态更新）****2.4 使用 useCallback 冻结闭包** **3. 异步操作中的闭包陷阱****事件监听示例** **4. 自定义 Hooks …...

编程日记 2025/5/29 17:12:29

项目地址 1 Setup # 拉取VLMaps仓库，成功运行后会在主目录生成文件夹vlmapsgit clone https://github.com/vlmaps/vlmaps.git#通过 conda 创建虚拟环境conda create -n vlmaps python=3.8 -yconda activate vlmaps #激活环境cd vlmaps # 切换到项目文件下bash install.ba…...

编程日记 2025/6/1 17:04:06

qt6 c++操作qtableview和yaml

保存qtableview数据到yaml文件从yaml文件读取数据到qtableview qtableview在UI界面拖放。代码是问chat百度的深度探索。 - name: a1address: db1.dbw10type: int - name: a2address: db1.dbx1.0type: bool写到yaml，写前检查 bool plot1::isRowValid(const QStan…...

编程日记 2025/5/27 7:14:28

使用UniApi调用百度地图API的需要注意的地方

目录前言一、百度开放平台 1、功能简介 2、地点搜索服务 3、按行政区划检索API 二、Uniapi集成百度API 1、API集成流程 2、访问接口的定义 3、业务调用集成三、可能遇到的问题 1、指定输出格式无效 2、返回数据的总数四、总结前言在之前的系列博客中&#xf…...

编程日记 2025/6/3 20:31:26

（9）python开发经验

文章目录 1 os.path.join()拼接路径2 条件变量3 添加临时环境变量更多精彩内容👉内容导航 👈👉Qt开发 👈👉python开发 👈 1 os.path.join()拼接路径 os.path.join() 是 Python 中处理文件路径拼接的核心函…...

编程日记 2025/5/24 2:33:04

windows 10 做服务器其他电脑无法访问，怎么回事？

一般我们会先打开win10自己的防火墙策略，但是容易忽略电脑之间路由器上的防火墙，此时也需要查看一下，可以尝试先关闭路由器防火墙，如果可以了，再设置路由器上的防火墙规则。将路由器的上网设置改成路由模式 &a…...

编程日记 2025/5/29 9:24:00

mysql中limit深度分页详细剖析【爽文】

目录一 mysql中limit深度分页 1.1 背景描述 1.2 mysql深度分页很慢原因 1.2.1 mysql的sql执行流程 1.2.2 mysql的深度分页很慢原因 1.3 解决办法 1.3.1 覆盖索引 1.3.2 子查询 1.3.3 标签查询 1.3.4 分区表一 mysql中limit深度分页 1.1 背景描述 Limit深度分页造…...

编程日记 2025/5/28 7:35:03

【C++ Qt】布局管理器

每日激励：“不设限和自我肯定的心态：I can do all things。 — Stephen Curry” 🤔绪论： 在Qt开发中，界面布局的合理设计是提升用户体验的关键。早期，开发者常采用绝对定位的方式摆放控件，即通…...

编程日记 2025/5/22 10:40:25

Windows系统永久暂停更新操作步骤

目录 Windows系统永久暂停更新操作步骤打开运行窗口进入注册表编辑器导航路径图示新建并配置DWORD值新建值操作图示数值设置图示在系统设置中应用暂停暂停选项图示注意事项打开运行窗口按下键盘上的 Win键 R 组合键，调出“运行”对话框。进入组策略编…...

编程日记 2025/5/24 1:37:52

Java IO流进阶实战详解（含文件读写、拷贝、加密、字符集）

本文基于 Java 原生 IO 流，从最基础的字节流到字符流，再到实战案例（如文件夹拷贝、文件加密等）进行逐步深入讲解。适合有一定 Java 基础、希望掌握文件读写操作的。一、前言 Java IO（输入输出）是我们日常…...

编程日记 2025/5/29 18:58:35

JavaScript【7】BOM模型

1.概述： BOM（Browser Object Model，浏览器对象模型）是 JavaScript 中的一个重要概念，它提供了一系列对象来访问和操作浏览器的功能和信息。与 DOM（Document Object Model）主要关注文档结构不同&…...

编程日记 2025/5/29 12:14:20

STM32F10xx 参考手册

6. 什么是寄存器本章参考资料：《STM32F10xx 参考手册》、《STM32F10xx数据手册》、学习本章时，配合《STM32F10xx 参考手册》“存储器和总线架构”及“通用I/O(GPIO)”章节一起阅读，效果会更佳，特别是涉及到寄存器说明的部分。…...

编程日记 2025/5/29 10:16:22

使用instance着色

本节我们学习使用instance着色器进行着色 //拾取var handler new Cesium.ScreenSpaceEventHandler(viewer.scene.canvas);handler.setInputAction(function(movement){console.log(movement);var pickedObject viewer.scene.pick(movement.position);if(Cesium.defined(picke…...

编程日记 2025/5/26 14:50:49

MySQL——4、表的约束

表的约束 1、空属性2、默认值3、列描述4、zerofill5、主键6、自增长7、唯一键8、外键9、综合案例真正约束字段的是数据类型，但是数据类型约束很单一，需要有一些额外的约束，更好的保证数据的合法性，从业务逻辑角度保证数据的正确性…...

编程日记 2025/5/18 11:51:50

Datawhale PyPOTS时间序列5月第3次笔记

下游任务的两阶段(two-stage) 处理下载数据并预处理的程序： # ------------------------------- # 导入必要的库 # ------------------------------- import numpy as np import torch from benchpots.datasets import preprocess_physionet2012 from pypots.imp…...

编程日记 2025/5/29 20:33:01

初探Reforcement Learning强化学习【QLearning/Sarsa/DQN】

文章目录一、Q-learning现实理解：举例：回顾： 二、Sarsa和Q-learning的区别三、Deep Q-NetworkDeep Q-Network是如何工作的？前处理：Convolution NetworksExperience Replay 一、Q-learning 是RL中model-free、value-…...

编程日记 2025/6/2 19:27:29