当前位置：首页 > news >正文

深度学习：CPU和GPU算力

news 来源：原创 2025/6/28 3:35:30

一、算力

“算力”（Computing Power）通常是指计算机或计算系统执行计算任务的能力。它是衡量系统处理数据、运行算法以及执行计算任务效率的重要指标。根据上下文，算力可以在以下几种场景中具体化：

1. 单机算力

CPU算力：中央处理器的计算能力，通常用核心数量（cores）、时钟频率（GHz）、以及每秒浮点运算次数（FLOPS）等指标衡量。
GPU算力：图形处理单元用于并行处理的能力，尤其是在深度学习和高性能计算领域中，用CUDA核心数量、显存大小及带宽等来衡量。
ASIC/FPGA：为特定任务优化的硬件，比如AI芯片和比特币挖矿设备。

2. 集群算力

数据中心或高性能计算（HPC）集群的整体计算能力。其算力可以通过每秒浮点运算次数（如Teraflops、Petaflops）来描述。
包括分布式计算资源的集成，例如云计算平台（如AWS、Azure、Google Cloud）。

3. 深度学习算力

AI和机器学习训练中常用算力指标。大模型训练任务通常用GPU集群（如NVIDIA A100）的规模来描述。
算力需求可能包括参数量（parameters）、数据集规模和训练时间。

4. 边缘算力

边缘设备（如嵌入式系统、智能传感器）的计算能力，通常能效比（算力/功耗）是关键指标。

5. 单位和指标

FLOPS（每秒浮点运算次数）：通常用于衡量CPU/GPU的性能。
TOPS（每秒万亿次运算）：在AI硬件中较常用。
能耗比（Perf/Watt）：表示计算能力与功耗的关系。

在你的工作领域（如LiDAR、雷达、计算机视觉等），算力需求可能用于：

处理实时数据流（如点云、视频流）。
实现复杂的AI推理任务（如目标检测、轨道识别）。
优化高精度地图的构建和更新流程。

二、CPU算力

CPU算力通常用浮点运算能力（FLOPS, Floating Point Operations Per Second）来衡量，尤其在科学计算、高性能计算（HPC）和人工智能领域。

计算公式

CPU算力（理论峰值性能）可以通过以下公式计算：

$\text{FLOPS} = \text{CPU 核心数} \times \text{每个核心的时钟频率（Hz）} \times \text{每个周期执行的浮点运算数}$

1. 核心数（Number of Cores）

CPU内的物理核心数量。
如果支持超线程（Hyper-Threading），则逻辑核心数可以是物理核心数的两倍，但计算算力时通常只考虑物理核心。

2. 时钟频率（Clock Frequency）

以 GHz 表示（1 GHz = $10^9$ Hz）。
表示每秒钟一个核心的主频振荡次数。

3. 每周期浮点运算数（Operations per Cycle）

CPU的指令集架构（如 x86, ARM）决定了每周期可执行的浮点运算数。
常见架构：
- 标量运算：1 FLOP/周期。
- SIMD 指令集（如 AVX, AVX-512）：多个浮点数并行处理。
  - AVX2：256位寄存器，最多处理 8 个单精度或 4 个双精度浮点数。
  - AVX-512：512位寄存器，最多处理 16 个单精度或 8 个双精度浮点数。

示例：Intel i7-1255U 计算理论峰值算力

核心数：10（2 性能核心 + 8 效率核心）。
- 性能核心支持更高频率和更复杂的指令集。
- 效率核心主要执行简单任务。
时钟频率：
- 性能核心：最高 4.7 GHz。
- 效率核心：最高 3.5 GHz。
浮点运算数（AVX2指令集）：
- 性能核心：8 单精度 FLOP/周期。
- 效率核心：4 单精度 FLOP/周期。

单个核心算力（性能核心）：
$\text{FLOPS} = 4.7 \, \text{GHz} \times 8 \, \text{FLOP/周期} = 37.6 \, \text{GFLOPS}$

所有核心总算力：
$\text{FLOPS（理论峰值）} = (2 \times 37.6 + 8 \times (3.5 \, \text{GHz} \times 4)) \, \text{GFLOPS} = 75.2 + 112 = 187.2 \, \text{GFLOPS}$

实际算力

理论算力往往高于实际算力，受限于：

内存带宽：数据加载速度不足以满足CPU吞吐需求。
分支预测失败或流水线阻塞。
非浮点运算占比，例如整数运算、条件判断。
散热与功耗限制：特别是移动设备（如笔记本）。

可以通过性能测试工具（如 LINPACK 或 Cinebench）测量实际算力。

三、GPU算力
GPU算力是衡量图形处理器在并行计算中执行浮点运算能力的重要指标，通常以**每秒浮点运算次数（FLOPS, Floating Point Operations Per Second）**表示。

GPU算力计算公式

$\text{FLOPS} = \text{CUDA 核心数} \times \text{每个核心的时钟频率（Hz）} \times \text{每周期执行的浮点运算数} \times \text{流水线数（Pipeline Count）}$

计算步骤

1. CUDA 核心数

表示 GPU 中的并行计算单元数量。
CUDA 核心数通常是 SM（Streaming Multiprocessor）中单元数的总和。例如，NVIDIA 的 GPU 具有多个 SM，每个 SM 包含多个 CUDA 核心。

2. 时钟频率

GPU 的核心时钟频率，通常以 GHz 表示（1 GHz = $10^9$ Hz）。
GPU 的 Boost Clock 表示其在性能负载下的最高频率。

3. 每周期浮点运算数

具体取决于 GPU 的架构和支持的精度。
常见精度：
- FP32（单精度）：主流深度学习任务使用。
- FP64（双精度）：高精度科学计算。
- FP16（半精度）或 INT8：用于深度学习加速。
例如，在 NVIDIA Ampere 架构中，FP32 每周期支持 2 个浮点操作。

4. 流水线数

高性能 GPU 使用多条指令流水线以提高并行处理能力。例如，NVIDIA Ampere 架构中每个 CUDA 核心有两条执行流水线。

示例：NVIDIA A100 计算理论峰值算力

参数：

CUDA 核心数：6,912。
时钟频率：1.41 GHz。
每周期浮点运算数（FP32）：2。
FP32 理论算力：

$\text{FLOPS} = 6,912 \times 1.41 \, \text{GHz} \times 2 = 19,468.32 \, \text{GFLOPS} = 19.47 \, \text{TFLOPS}$

FP64 和 FP16 算力：

FP64（双精度）：FP32 算力的 1/2。
$\text{FP64 FLOPS} = 19.47 \, \text{TFLOPS} \div 2 = 9.735 \, \text{TFLOPS}$
FP16（半精度）：FP32 算力的 2 倍。
$\text{FP16 FLOPS} = 19.47 \, \text{TFLOPS} \times 2 = 38.94 \, \text{TFLOPS}$

实际算力

理论算力是 GPU 的上限，实际性能通常受以下因素影响：

内存带宽：数据吞吐能力不足可能限制算力。
指令调度：不均衡任务可能导致部分核心闲置。
散热与功耗：性能可能受限于温控策略。
编程优化：代码是否充分利用并行计算能力。

测试工具如 CUDA SDK, TensorRT，或基准测试工具（如 Geekbench 和 SPECviewperf）可用于测量实际 GPU 算力。

深度学习：CPU和GPU算力

一、算力 “算力”（Computing Power）通常是指计算机或计算系统执行计算任务的能力。它是衡量系统处理数据、运行算法以及执行计算任务效率的重要指标。根据上下文，算力可以在以下几种场景中具体化： 1. 单机算力 CPU算力&#x…...

编程日记 2025/6/28 3:35:30

模拟器路径： C:\Users\Administrator\AppData\Local\Android\Sdk\emulator\emulator.exe.关闭所有AVD设备实例导航至： C:\Users\userName\AppData\Local\Android\Sdk\emulator查看模拟器名称 AdministratorDESKTOP-6JB1OGC MINGW64 ~/AppData/Local/…...

编程日记 2025/6/28 3:12:24

php.ini 文件上传/执行时间/部分配置新手教程

1、上传文件大小配置一般需要同时配置“upload_max_filesize”、“post_max_size”，配置格式如下： file_uploads On ;是否允许HTTP文件上传 upload_max_filesize 2M ;设置单个文件上传的最大尺寸 post_max_size 8M ;设置 POST 请求体的最大尺寸&am…...

编程日记 2025/6/25 23:28:47

大模型Qwen面试内容整理-应用场景与案例分析

Qwen模型凭借其强大的自然语言理解和生成能力，在多个实际应用场景中得到了广泛应用。以下是Qwen模型的主要应用场景及一些典型的案例分析，展示了它如何解决具体问题和带来实际价值。智能对话系统 ● 应用场景 ○ 客服机器人：Qwen被用于开发智能客服机器人，能够理解客户的问…...

编程日记 2025/6/28 3:22:45

网易游戏分享游戏场景中MongoDB运行和分析实践

在游戏行业中，数据库的稳定和性能直接影响了游戏质量和用户满意度。在竞争激烈的游戏市场中，一个优秀的数据库产品无疑能为游戏的开发和后期的运营奠定良好的基础。伴随着MongoDB在不同类型游戏场景中的应用越来越广泛，许多知名的游戏公司都在…...

编程日记 2025/6/22 5:24:56

子查询与嵌套查询

title: 子查询与嵌套查询 date: 2024/12/13 updated: 2024/12/13 author: cmdragon excerpt: 子查询和嵌套查询是关系型数据库中强大的查询工具，允许用户在一个查询的结果中再进行查询。通过使用子查询，用户能够简化复杂的SQL语句，增强查询的灵活性和可读性。本节将探讨子…...

编程日记 2025/6/28 3:03:37

智星云技术文档：GPU测速教程

安装gpu burn git clone https://github.com/wilicc/gpu-burn cd gpu-burn/ make测试 ./gpu_burn 60100.0% procd: 14280 (7373 Gflop/s) - 13390 (6997 Gflop/s) - 15912 (7110 Gflop/s) - 13184 (7055 Gflop/s) - 13464 (7369 Gflop/s) - 13974 (7351 Gflop/s) - 16626 (7…...

编程日记 2025/6/28 3:24:34

（二）多智能体强化学习

目录前言一、多智能体强化学习的概念二、多智能体面临的问题三、现有算法简介总结前言基于上一篇文章对于强化学习基础概念的介绍，本篇文章针对多智能体强化学习进行介绍和总结，帮助大家了解多智能体的基本概念以及算法，方便大家…...

编程日记 2025/6/23 21:06:53

Unity屏幕截图、区域截图、读取图片、WebGL长截屏并下载到本地jpg

Unity屏幕截图、区域截图、读取图片、WebGL长截屏并下载到本地jpg 一、全屏截图并保存到StreamingAssets路径下 Texture2D screenShot;//保存截取的纹理public Image image; //显示截屏的Imagepublic void Jietu(){StartCoroutine(ScrrenCapture(new Rect(0, 0, Screen.width…...

编程日记 2025/6/22 14:12:39

linux中给某个文件切换成www用户

要将某个文件的拥有者切换为 www 用户（通常是用于 Web 服务的用户），你可以使用 chown 命令来更改文件的所有者和所属组。以下是相关步骤： ### 1. 确认 www 用户存在首先确认 www 用户已经存在。可以使用以下命令检查&#xff1a…...

编程日记 2025/6/26 1:22:11

运维实战：K8s 上的 Doris 高可用集群最佳实践

今天我们将深入探讨：：如何在 K8s 集群上部署 Compute storage coupled（存算耦合） 模式的 Doris 高可用集群？ 本文，我将为您提供一份全面的实战指南，逐步引导您完成以下关键任务： 配…...

编程日记 2025/6/25 23:10:30

家庭网络防御系统搭建-将EDR系统的sysmon和Windows event log集成到security onion

在前面的文章中安装了sysmon,这里，安装了securityonion，这里，本文讲述如何将sysmon以及Windows生成的event log发送到siem security onion之中，供后续的分析，威胁狩猎之用。通常日志集成的步骤分为如下几步&#xff1…...

编程日记 2025/6/23 9:04:01

Ubuntu boot-repair安装过程

本教程只是在UBuntu系统无法引导才使用的方法，有可能需要提前使用U盘刻录UBuntu镜像去引导。假如winUBuntu双系统，找不到紫色的UBuntu界面了，请参考：windows10ubuntu双系统开机引导界面不见的解决办法_双系统不出现引导界面-CSD…...

编程日记 2025/6/26 16:45:09

图计算之科普：BSP计算模型、Pregel计算模型、

一、BSP计算模型 BSP计算模型，即整体同步并行计算模型（Bulk Synchronous Parallel Computing Model），又名大同步模型或BSP模型，是由哈佛大学L.G. Valiant教授（2010年图灵奖得主）在1992年提出的…...

编程日记 2025/6/27 15:32:04

Kafka Stream实战教程

Kafka Stream实战教程 1. Kafka Streams 基础入门 1.1 什么是 Kafka Streams Kafka Streams 是 Kafka 生态中用于处理实时流数据的一款轻量级流处理库。它利用 Kafka 作为数据来源和数据输出，可以让开发者轻松地对实时数据进行处理，比如计数、聚合、…...

编程日记 2025/6/24 1:37:02

数据仓库-基于角色的权限管理(RBAC)

什么是基于角色的用户管理？ 基于角色的用户管理(Role-Based Access Control，简称RBAC)是通过为角色赋予权限，用户通过成为适当的角色而得到这些角色的权限。角色是一组权限的抽象。使用RBAC可以极大简化对权限的管理。什么是RBAC模型&…...

编程日记 2025/6/24 14:19:05

如何使用ERC404协议

ERC404 ERC404协议的性质 ERC404不是一个开发代码工具包，而是一种智能合约标准规范。它就像是一份蓝图或者规则手册，规定了在以太坊区块链上开发特定智能合约应该遵循的接口、函数和事件等规则。如何使用ERC404协议定义合约接口首先，在开发智能合约时，要根据ERC404标准定…...

编程日记 2025/5/21 14:55:33

Spring Boot 工程分层实战（五个分层维度）

1、分层思想计算机领域有一句话：计算机中任何问题都可通过增加一个虚拟层解决。这句体现了分层思想重要性，分层思想同样适用于Java工程架构。分层优点是每层只专注本层工作，可以类比设计模式单一职责原则，或者经济学比较优势原…...

编程日记 2025/6/27 5:56:21

IIS部署程序https是访问出现403或ERR_HTTP2_PROTOCOL_ERROR

一、说明在windows server 2016中的IIS程序池里部署一套系统，通过https访问站点，同时考虑到安全问题以及防攻击等行为，就用上了WAF云盾功能，能有效的抵挡部分攻击，加强网站的安全性和健壮性。应用系统一直能够正常…...

编程日记 2025/6/26 16:10:33

【深度学习入门】深度学习介绍

1.1 深度学习介绍学习目标目标知道深度学习与机器学习的区别了解神经网络的结构组成知道深度学习效果特点应用无区别特征提取方面机器学习的特征工程步骤是要靠手动完成的，而且需要大量领域专业知识深度学习通常由多个层组成，它们通常将更简…...

编程日记 2025/6/27 11:52:56

node_modules文件夹删除失败解决办法

在前端开发过程中，node_modules 文件夹是一个必不可少的组成部分，里面存放着项目所需的各种依赖包。然而，随着项目的发展，node_modules 文件夹可能会变得异常庞大，甚至有时需要删除它来解决一些依赖冲突或清理空间。但…...

编程日记 2025/6/25 22:41:23

360智脑张向征：共建可信可控AI生态应对大模型安全挑战

发布 | 大力财经人工智能的加速发展，有力推动了社会的数智化转型；与此同时，带来的相关安全风险也日益凸显。近日，在北京市举办的通明湖人工智能开发与应用大会上，360智脑总裁张向征以“大模型安全研究与实践”为主题&…...

编程日记 2025/6/27 10:20:20

adb 常用命令笔记

adb connect <ip> #连接指定ip adb disconnect <ip> #断开连接指定ip adb devices #查看连接中的设备 adb install <flie> #安装apk adb uninstall <packageName> #卸载app adb -s install <flie> #指定设备安装 adb shell pm list package…...

编程日记 2025/6/22 17:31:49

uniapp中打包应用后，组件在微信小程序和其他平台实现不同的样式

今天，我们来介绍一下，uniapp中如何实现打包应用后，组件在微信小程序和其他平台不同的样式，在这里，我们使用背景颜色进行演示，使用 UniApp 提供的 uni.getSystemInfoSync() 方法来获取系统信息，包…...

编程日记 2025/6/27 22:48:11

代码随想录算法训练营第三天 | 链表理论基础 | 206.反转链表

从老链表第一个元素开始，逐个取出第一个取出的元素，让其next指向nullptr。由于改变其指向，会导致后续链表没有指向消失，所以要在这步之前将其后续元素的指向放在一个新变量中再将后续结点的指向当前结点，不断反复运行…...

编程日记 2025/6/24 8:04:58

《数据结构》（非408代码题）

链表设单链表的表头指针为L，结点结构由data和next两个域构成，其中data域为字符型。试设计算法判断该链表的全部n个字符是否中心对称。例如xyx、xyyx都是中心对称。分析： 这题完全可以参考19年那题，我们直接找到中间结点然后将后…...

编程日记 2025/6/25 15:31:39

springboot427民航网上订票系统设计和实现(论文+源码)_kaic

摘要传统办法管理信息首先需要花费的时间比较多，其次数据出错率比较高，而且对错误的数据进行更改也比较困难，最后，检索数据费事费力。因此，在计算机上安装民航网上订票系统软件来发挥其高效地信息处理的作用&#x…...

编程日记 2025/6/23 18:02:07

UE4_控件蓝图_制作3D生命血条

一：效果图如下： 二、实现步骤： 1、新建敌人右键蓝图类选择角色， 重命名为BP_Enemytest。双击打开，配置敌人网格体修改位置及朝向效果如下： 选择合适的动画蓝图类： 人物就有了动作&#x…...

编程日记 2025/6/26 8:19:35

欧拉计划 Project Euler 21题解

欧拉计划21 Project Euler Problem21题干亲和数约数和的计算定义对于任何素数 $ p $:考虑 p a p^a pa:示例可乘性回到示例 Project Euler Problem21 题干亲和数记 d ( n ) d(n) d(n) 为 n 的所有真约数(小于 n 且整除 n 的正整数)之和。如果 d(a) b , d(b) a &…...

编程日记 2025/6/25 10:06:16

python中的Counter函数

在 Python 中，Counter 是 collections 模块中的一个类，用于统计可迭代对象中元素的出现次数，并以字典的形式返回，键为元素，值为对应的计数。它非常适合处理频率统计问题。用之前必须先导入 from collections import…...

编程日记 2025/6/22 18:27:40

WPF+MVVM案例实战与特效（三十七）- 实现带有水印和圆角的自定义 TextBox 控件

文章目录 1、概述2、案例实现1、基本功能2、代码实现3、控件应用4、案例效果5、源代码下载4、总结1、概述在开发用户界面时，TextBox 是最常见的输入控件之一。为了提升用户体验，我们经常需要为 TextBox 添加一些额外的功能，例如显示提示文本（水印）和设置圆角边框。本文将…...

编程日记 2025/6/25 5:22:05

SQLServer到MySQL的数据高效迁移方案分享

SQL Server数据集成到MySQL的技术案例分享在企业级数据管理中，跨平台的数据集成是一个常见且关键的任务。本次我们将探讨如何通过轻易云数据集成平台，将巨益OMS系统中的退款单明细表从SQL Server高效、安全地迁移到MySQL数据库中。具体方案名称为“7--…...

编程日记 2025/6/24 7:34:32

docker快速实现ELK的安装和使用

目录一、ELK功能原理二、项目功能展示三、日志查询展示四、ELK安装步骤 1、创建elasticsearch、kibana、filebeat相关data、log、conf目录 2、进入/usr/local/elk目录，并创建一个docker网络 3、启动 elasticsearch容器 4、运行kibana容器 5、启动f…...

编程日记 2025/6/27 21:08:30

hbase读写操作后hdfs内存占用太大的问题

hbase读写操作后hdfs内存占用太大的问题查看内存信息hbase读写操作查看内存信息查看本地磁盘的内存信息 df -h查看hdfs上根目录下各个文件的内存大小 hdfs dfs -du -h /查看hdfs上/hbase目录下各个文件的内存大小 hdfs dfs -du -h /hbase查看hdfs上/hbase/oldWALs目录下…...

编程日记 2025/6/23 6:33:53

解决vue2中更新列表数据，页面dom没有重新渲染的问题

在 Vue 2 中，直接修改数组的某个项可能不会触发视图的更新。这是因为 Vue 不能检测到数组的索引变化或对象属性的直接赋值。为了确保 Vue 能够正确地响应数据变化，你可以使用以下几种方法： 1. 使用 Vue.set() 使用 Vue.set() 方法可以确保 …...

编程日记 2025/6/26 1:15:38

Go语言错误分类

错误的分类在 Go 语言中，错误是通过实现 error 接口的类型表示的，但不同场景下的错误可以按性质和用途进行分类。以下是 Go 语言错误的常见分类，以及每类错误的解释和示例： 标准错误类型标准库中定义了许多常见的错误类型&…...

编程日记 2025/6/25 10:34:12

使用 Ansys Fluent 对气体泄漏检测进行建模

了解使用 Ansys Fluent 仿真气体泄漏和确保安全的前沿技术。挑战气体泄漏对人类安全和环境构成重大风险。及早检测气体泄漏可以防止潜在的灾难，包括爆炸、火灾和有毒物质暴露。有效的气体泄漏检测系统对于石油和天然气、化学加工和住宅基础设施等行业至关重要。…...

编程日记 2025/6/26 14:53:43

Pytest-Bdd-Playwright 系列教程（16）：标准化JSON报告Gherkin格式命令行报告

Pytest-Bdd-Playwright 系列教程（16）：标准化JSON报告&Gherkin格式命令行报告前言一、创建Feature文件二、创建步骤定义文件三、生成Cucumber格式的JSON报告四、使用Gherkin格式的命令行报告五、将BDD报告集成到Jenkins中总结前言在自动…...

编程日记 2025/6/25 23:36:38

lc46全排列——回溯

46. 全排列 - 力扣（LeetCode） 法1：暴力枚举总共n!种全排列，一一列举出来放入list就行，关键是怎么去枚举呢？那就每次随机取一个，然后删去这个，再从剩下的数组中继续去随机选一个&a…...

编程日记 2025/6/23 1:32:25

软考：工作后再考的性价比分析

引言在当今的就业市场中，软考（软件设计师、系统分析师等资格考试）是否值得在校学生花费时间和精力去准备？本文将从多个角度深入分析软考在不同阶段的性价比，帮助大家做出明智的选择。一、软考的价值与局限性 1.1 …...

编程日记 2025/6/25 1:42:48

如何设置 Data Guard 的报警机制？

概述设置 Data Guard 的报警机制是确保高可用性和及时响应故障的关键步骤。以下是一些常见的方法来配置 Data Guard 的报警机制，包括使用 Oracle Enterprise Manager (OEM)、Data Guard Broker 以及自定义脚本和外部监控工具。 1. 使用 Oracle Enterprise Manage…...

编程日记 2025/6/26 4:46:13

Elastic 8.17：Elasticsearch logsdb 索引模式、Elastic Rerank 等

作者：来自 Elastic Brian Bergholm 今天，我们很高兴地宣布 Elastic 8.17 正式发布！ 紧随一个月前发布的 Elastic 8.16 之后，我们将 Elastic 8.17 的重点放在快速跟踪关键功能上，这些功能将带来存储节省和搜索性能优势…...

编程日记 2025/6/25 1:25:53

Please activate LaTeX Workshop sidebar item to render the thumbnail of a PDF

Latex代码中使用pdf图片，无法预览，提示： Please activate LaTeX Workshop sidebar item to render the thumbnail of a PDF 解决办法： 点击左边这个刷新下即可...

编程日记 2025/6/24 14:20:56

HiveQL命令（一）- 数据库操作

文章目录前言一、数据库操作1. 创建数据库1.1 语法及解释1.2 创建数据库示例 2. 查看数据库2.1 查看所有数据库2.2 查看数据库信息2.2.1 语法及解释2.2.2 查看数据库信息示例 3. 切换数据库3.1 语法3.2 示例 4. 修改数据库4.1 语法4.2 示例 5. 删除数据库5.1 语法及解释5.2 示…...

编程日记 2025/6/24 20:40:03

【esp32s3】esp-dl模型部署demo

一个单片机部署手写数字识别的demo 源码： # 别跑，给我star git clone https://gitee.com/Shine_Zhang/esp32s3_dl_helloworld.git功能： 网页绘制28x28手写数字，串口输入设备，串口打印输出10个数字的概率值&#xff0…...

编程日记 2025/6/22 22:29:30