【CUDA 】第3章 CUDA执行模型——3.5循环展开（1）
CUDA C编程笔记
- 第三章 CUDA执行模型
- 3.5 循环展开
- 3.5.1 展开的规约
待解决的问题：
第三章 CUDA执行模型
3.5 循环展开
循环展开是一种循环优化的技术，通过减少分支出现频率+循环维护指令。
循环主体代码被多次编写，任何封闭的循环可以把迭代次数减少或完全删除。
循环展开因子：循环体的复制数量
迭代次数=原始迭代次数/循环展开因子
在顺序数组中，如果循环迭代的次数在执行前已经知道，循环展开是最有效提升性能的方法。
举一个简单的例子：
for(int i = 0; i < 100; i++){a[i] = b[i] + c[i];
}for(int i = 0; i < 100; i += 2){a[i] = b[i] + c[i];a[i+1] = b[i+1] + c[i+1];
}
下面的循环迭代次数是上面的一半，这是因为重复操作了一次循环体。
这种提升是由于编译器执行循环展开时低级指令的改进和优化。
目标：通过减少指令消耗和增加更多的独立调度指令来提高性能，更多的并发操作被添加到流水线上，产生更高的指令和内存带宽，帮线程束调度器提供更多符合条件的线程束，隐藏指令或内存延迟。
3.5.1 展开的规约
用一个线程块手动处理两个数据块，每个线程作用域多个数据块，并处理每个块的一个元素
//展开规约1：手动展开两个块block的处理
__global__ void reduceUnrolling2(int *g_idata, int *g_odata, unsigned int n){//设置线程idunsigned int tid = threadIdx.x;unsigned int idx = blockIdx.x * blockDim.x * 2 + threadIdx.x;//这里乘2//把全局数据指针转换为块内局部指针int *idata = g_idata + blockIdx.x * blockDim.x * 2;//这里乘2//展开两个数据块if(idx + blockDim.x < n) g_idata[idx] += g_idata[idx + blockDim.x];//每个线程都加一个相邻块的元素，可以算一个迭代，该循环可在数据块间规约__syncthreads();//在全局内存中就地规约for(int stride = blockDim.x/2; stride > 0; stride >>= 1){if(tid < stride){idata[tid] += idata[tid + stride];}__syncthreads();}//把这个块的结果写回全局内容if(tid == 0) g_odata[blockIdx.x] = idata[0];
}
可以利用线程块的空闲资源，原本一个线程块中，只有前半个线程块在工作，后半个线程块闲置（交错规约）。把两个数据块一起处理后，后半个线程块也能利用起来。
关键点：
①索引的计算
unsigned int idx = blockIdx.x * blockDim.x * 2 + threadIdx.x;
int *idata = g_idata + blockIdx.x * blockDim.x * 2;
②数据规约
if (idx + blockDim.x < n) g_idata[idx] += g_idata[idx + blockDim.x];
第一个块的内容与第二个块相加，数据存回第一个块。
③块内交错规约
for (int stride = blockDim.x/2; stride > 0; stride >>= 1) {if (tid < stride) {idata[tid] += idata[tid + stride];}__syncthreads();
}
完成数据块内的规约，交错规约。
对应的main函数代码也需要修改：网格大小减半，在核函数调用参数、数据传回主机和最后求和方面，都需要除2
//kernel4:reduceUnrolling2 展开规约2：一个线程块处理两个数据块cudaMemcpy(d_idata, h_idata, bytes, cudaMemcpyHostToDevice);cudaDeviceSynchronize();iStart = seconds();//因为现在每个线程块处理两个数据块，需要调整内核的执行配置，网格大小减为原来的一半reduceUnrolling2<<<grid.x/2, block>>>(d_idata, d_odata, size);//这里写错成了bytescudaDeviceSynchronize();iElaps = seconds() - iStart;cudaMemcpy(h_odata, d_odata, grid.x/2*sizeof(int), cudaMemcpyDeviceToHost);//需要除2gpu_sum = 0;for(int i = 0; i<grid.x/2; i++){//需要除2gpu_sum += h_odata[i];}printf("gpu reduceUnrolling2 elapsed %f ms gpu_sum: %d <<<grid %d block %d>>>\n", iElaps, gpu_sum, grid.x/2, block.x);//需要除2
执行结果：
./3-3reduceInteger2 starting reduction atdevice 0: NVIDIA GeForce RTX 3090 with array size 16777216 grid 32768 block 512
cpu reduce elapsed 0.039772 ms cpu_sum: 2139353471
gpu Warmup elapsed 0.003663 ms gpu_sum: 0 <<<grid 32768 block 512>>>
gpu Neighbored elapsed 0.001532 ms gpu_sum: 2139353471 <<<grid 32768 block 512>>>
gpu NeighboredLess elapsed 0.001402 ms gpu_sum: 2139353471 <<<grid 32768 block 512>>>
gpu reduceInterleaved elapsed 0.001371 ms gpu_sum: 2139353471 <<<grid 32768 block 512>>>
gpu reduceUnrolling2 elapsed 0.001357 ms gpu_sum: 2139353471 <<<grid 16384 block 512>>>
原始的交错规约时间reduceInterleaved0.001371 ms，二合一的交错规约reduceUnrolling20.001357 ms。
原因：一个线程中有更多的独立内存加载/存储操作性能更好，因为内存延迟可以被更好隐藏，可以查看设备内存吞吐量指标，内存吞吐量提高了很多。
相关文章：
【CUDA 】第3章 CUDA执行模型——3.5循环展开（1）
CUDA C编程笔记 第三章 CUDA执行模型3.5 循环展开3.5.1 展开的规约 待解决的问题： 第三章 CUDA执行模型 3.5 循环展开 循环展开是一种循环优化的技术，通过减少分支出现频率循环维护指令。 循环主体代码被多次编写，任何封闭的循环可以把迭代…...
AndroidStudio编译报错 Duplicate class kotlin
具体的编译报错信息如下： Duplicate class kotlin.collections.jdk8.CollectionsJDK8Kt found in modules kotlin-stdlib-1.8.10 (org.jetbrains.kotlin:kotlin-stdlib:1.8.10) and kotlin-stdlib-jdk8-1.6.21 (org.jetbrains.kotlin:kotlin-stdlib-jdk8:1.6.21) D…...
LeetCode hot 100—搜索二维矩阵
题目 给你一个满足下述两条属性的 m x n 整数矩阵： 每行中的整数从左到右按非严格递增顺序排列。每行的第一个整数大于前一行的最后一个整数。 给你一个整数 target ，如果 target 在矩阵中，返回 true ；否则，返回 fa…...
栈与队列习题分享（精写）
最小栈 题解 一、题目描述 设计一个支持 push ，pop ，top 操作，并能在常数时间内检索到最小元素的栈。 实现 MinStack 类: MinStack() 初始化堆栈对象。 void push(int val) 将元素 val 推入堆栈。 void pop() 删除堆栈顶部的元素。 int…...
Kotlin 集合过滤全指南：all、any、filter 及高级用法
在 Kotlin 中，集合过滤是数据处理的核心操作之一。无论是简单的条件筛选，还是复杂的多条件组合，Kotlin 都提供了丰富的 API。本文将详细介绍 filter、all、any、none 等操作符的用法，并展示如何在实际开发中灵活运用它们。 1. 基础…...
【lerobot】3-开源SO-100 主从臂的舵机位置校正、遥控操作（ubuntu系统）
官方从零教程：https://github.com/huggingface/lerobot/blob/main/examples/10_use_so100.md 8-lerobot aloha装配完毕如何进行遥操作 需要先完成的 组装好了so-100 2个机械臂下载安装了lerobot的代码环境：固定好主从臂，通过usb链接到同一个…...
影刀RPA证书题库包含初级、中级、高级和AP初级
影刀rpa初级证书选择题答案，影刀证书答案，影刀rpa考试，影刀初级考试，影刀初级考试选择题 原因 以前的在线题库https://exam.ezrpa.store/是为了方便更新题目和使用的，但经过实际使用发现大部分人“不会用”࿱…...
)
LR(0)
LR0就是当我处在自动机为红色这些结束状态的时候，这些红色状态就代表我们识别到了一个句柄，那现在的问题就是识别到了句柄，那要不要对他进行归约？LR0就是我不管当前指针指向的终结符是什么，我都拿它做规约 这里的二号状…...
基于 Python 和 OpenCV 技术的疲劳驾驶检测系统（2.0 全新升级，附源码）
大家好，我是徐师兄，一个有着7年大厂经验的程序员，也是一名热衷于分享干货的技术爱好者。平时我在 CSDN、掘金、华为云、阿里云和 InfoQ 等平台分享我的心得体会。 🍅文末获取源码联系🍅 2025年最全的计算机软件毕业设计…...
Matplotlib库详解
Matplotlib 是 Python 里一个特别常用的绘图库，它能帮你创建各种各样的可视化图形，像折线图、柱状图、散点图等。对于数据可视化、数据分析和科学研究而言，它是非常重要的工具。接下来我会以初学者的视角，为你详细介绍 Matplotlib…...
daz dForce to UE 的原理分析
dForce是物理模拟，不是关键帧动画： dForce是一个物理引擎。当你运行模拟时，Daz Studio会根据你设置的物理属性（如裙子的重量、布料的硬度、摩擦力）、环境因素（如重力、风力）以及与角色的碰撞&am…...
速卖通商品详情API接口：功能、应用与开发指南
前言 在全球跨境电商蓬勃发展的背景下，速卖通（AliExpress）作为阿里巴巴旗下的国际电商平台，凭借丰富的商品种类和庞大的用户群体，成为众多商家和开发者拓展海外市场的首选平台。为了满足商家和开发者对商品数据的深度…...
4月14日星期一今日早报简报微语报早读
4月14日星期一，农历三月十七，早报#微语早读。 1、全国田径大奖赛接力摘金，苏炳添的传奇将延续至全运会； 2、中国红基会：2024年全年总收支12.85亿元； 3、我国2025年电影总票房已突破250亿 位居全球第一&a…...
)
快速排序(非递归版本)
引言 在排序算法的世界里，快速排序以其高效的性能脱颖而出。它采用分治法的思想，通过选择基准元素将数组分为两部分，递归地对左右两部分进行排序。然而，递归实现的快速排序在处理大规模数据时可能会导致栈溢出的问题。为了解决这…...
Ubuntu20.04 设置开机自启
参考： Ubuntu20.04 设置开机自启_ubuntu进bos系统-CSDN博客...
添加登录和注册功能
先写前端再写后端 前提：ideavue3mybatisspringBoot3前后端分离实现对一张表的增删改查（完整代码版）-CSDN博客 项目地址 1.添加一个Login.vue视图 <template><div class"login_container"><div class"login…...
弱口令爆破
1.简单介绍 弱口令是指一些简单易猜的密码，可通过社工方式和一些爆破工具进行破解，以下介绍一款爆破工具的用法。burpsuite简称BP，一款可以利用字典破解账户密码的工具。 2.部署网站 可以使用PHPstudy的Apache服务，也可以使用I…...
springboot调用python文件，在ubuntu上部署，踩坑之旅（已部署成功）
项目介绍 springboot 调用python文件，python调用另一个数据文件，然后计算出结果，看似简单，实际上有很多坑，因为涉及到python的三方库，有时候下载不下来，有时候版本不匹配，折腾了好久…...
Android studio消息同步机制：消息本地存储，服务器交互减压
文章目录 后端（Flask）代码前端（Android Studio Java）代码 消息同步机制: 手机端可以将消息存储在本地数据库中，减少与服务器的交互压力。同时，通过序列号机制，手机端可以与服务器同步消息&#…...
前端常用组件库全览与推荐
📌 一、组件库生态全景图 🚀 二、React 生态组件库推荐 名称简介官网Ant Design阿里出品，企业级 UI 系统，设计规范完整，适合后台系统https://ant.designMaterial UIGoogle Material Design 实现，样式响应式…...
视觉算法+雾炮联动：开创智能降尘新时代
在许多工业环境中，尤其是那些涉及大量物料搬运和处理的地方，如工厂或仓库，扬尘问题是一个普遍存在的挑战。这不仅影响了工作人员的工作条件，还可能构成健康和安全隐患。为了改善这一状况，不少业主采用了物理方法来减少…...
【Pandas】pandas DataFrame items
Pandas2.2 DataFrame Indexing, iteration 方法描述DataFrame.head([n])用于返回 DataFrame 的前几行DataFrame.at快速访问和修改 DataFrame 中单个值的方法DataFrame.iat快速访问和修改 DataFrame 中单个值的方法DataFrame.loc用于基于标签（行标签和列标签&#…...
易境通WMS系统代理仓解决方案：让代理仓管理无后顾之忧！
易境通WMS系统代理仓解决方案：让代理仓管理无后顾之忧！ 对于海外仓企业而言，除了自有仓库外，为了业务发展还会同时代理其他仓库，于是经常会面临主仓代理仓数据同步问题及费用问题。此外，由于个仓库分布较广…...
【智驾中的大模型 -2】VLM 在自动驾驶中的应用
1. 前言 随着端到端 AI 和多模态学习的迅猛发展，VLM（视觉-语言模型）在自动驾驶领域中的应用正逐渐成为一个备受瞩目的重要研究方向。VLM 凭借其强大的融合能力，将视觉（如高清晰度的摄像头图像、精准的雷达数据&#x…...
L1-104 九宫格
L1-104 九宫格 - 团体程序设计天梯赛-练习集 九宫格是一款数字游戏，传说起源于河图洛书，现代数学中称之为三阶幻方。游戏规则是：将一个 99 的正方形区域划分为 9 个 33 的正方形宫位，要求 1 到 9 这九个数字中的每个数字在每一行…...
图像预处理（OpenCV）-part2
4 边缘填充 为什么要填充边缘呢？我们以下图为例。 原图旋转后的图 可以看到，左图在逆时针旋转45度之后原图的四个顶点在右图中已经看不到了，同时，右图的四个顶点区域其实是什么都没有的，因此我们需要对空出来的区域进…...
SpringAI-ollama
SpringAi主要依赖 System Prompt ：设置提示词 用来预设角色 ConversationMemory: 对话集 RAG: 检索增强生成 将业务数据存储在向量数据库中（做相似性检索）通过RAG进行链接 Function Calling 用来调用自己的api <dependencyManagement>&…...
如何在Windows 10系统中查看已连接WiFi密码-亲测可用-优雅草卓伊凡
如何在Windows 10系统中查看已连接WiFi密码-亲测可用-优雅草卓伊凡 通过系统设置查看 点击屏幕左下角的“开始”按钮，打开“设置”应用。在“设置”应用中，点击“网络和 Internet”。在“网络和 Internet”页面中，点击“WLAN”，…...
蓝耘赋能通义万相 2.1：用 C++ 构建高效 AI 视频生成生态
开篇：AI 视频生成新时代的号角 通义万相 2.1：AI 视频生成的领军者 核心技术揭秘 功能特点展示 与其他模型的全面对比 C：高效编程的基石 C 的发展历程与特性 C 在 AI 领域的广泛应用 通义万相 2.1 与 C 的完美融合 融合的意义与价值 …...
tmpfs的监控筛选/dev/shm下的shmem创建
一、背景 在一个比较注重性能的系统上，共享内存的使用肯定非常普遍。为了能更好的了解系统里共享内存的使用，比如创建、删除等操作，我们是可以对其进行监控的。 这篇博客以共享内存的创建监控为例来介绍如何监控共享内存。 这里有一个概念…...
如果你在使用 Ubuntu/Debian：使用 apt 安装 OpenSSH
情况 1：如果你在使用 Ubuntu/Debian： 使用 apt 安装 OpenSSH： bash 复制 sudo apt update sudo apt install openssh-server 完成后检查 SSH 服务状态： bash 复制 sudo systemctl status ssh 情况 2：如果你在使用 Ce…...
设计模式每日硬核训练 Day 11：适配器模式（Adapter Pattern）完整讲解与实战应用
🔄 回顾 Day 10：模板方法模式小结 在 Day 10 中，我们学习了模板方法模式： 它用于定义流程的“骨架”，将固定步骤放在父类，具体实现交给子类完成。实现了“统一流程 差异化行为”的复用范式。 而今天&am…...
xAI Elasticsearch 集群架构解析：索引数据规模与分片优化实践
Elasticsearch（ES）作为分布式搜索和分析引擎，是 xAI 构建高性能数据处理系统的基石。xAI 的业务场景，如实时日志分析、模型训练数据检索和用户行为分析，要求 Elasticsearch 集群兼顾高吞吐写入、低延迟查询和动态扩展能…...
[c语言日寄]时间复杂度
【作者主页】siy2333 【专栏介绍】⌈c语言日寄⌋：这是一个专注于C语言刷题的专栏，精选题目，搭配详细题解、拓展算法。从基础语法到复杂算法，题目涉及的知识点全面覆盖，助力你系统提升。无论你是初学者，还是…...
)
快速幂(蓝桥杯)
1. 递归实现 递归方法通过将问题分解为更小的子问题来实现。具体步骤如下： 如果指数 b 为 0，返回 1。 如果 b 是偶数，则递归计算 (a^2)b/2。 如果 b 是奇数，则递归计算 a⋅(a^2)(b−1)/2。 伪代码： function fas…...
[Python基础速成]2-模块与包与OOP
上篇➡️[Python基础速成]1-Python规范与核心语法 目录 Python模块创建模块与导入属性__name__dir()函数标准模块 Python包类类的专有方法 对象继承多态 Python模块 Python 中的模块（Module）是一个包含 Python 定义和语句的文件，文件名就是模…...
Spring AOP 学习笔记 之 常用注解
0 引入依赖 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-aop</artifactId><version>3.4.2</version></dependency> 要在springboot中启用AOP，需要引入spring-boot-…...
JVM——运行时数据区
目录 Class装载到JVM的过程 装载（load）——查找和导入class文件 正文------------------- Run-time Data Areas 运行时数据区 Method Area 方法区 Heap 堆 Java Virtual Machine Stacks（Java虚拟机栈） The PC Register 程…...
Conda 入门指令教程
Conda 入门指令教程 Conda 是一个强大的包和环境管理工具，广泛应用于数据科学和机器学习项目中。本文将介绍 Conda 的常用指令，帮助你快速上手。 1. Conda 基础操作 查看 Conda 版本 conda --version显示当前安装的 Conda 版本。 更新 Conda conda…...
基于STM32、HAL库的MAX14830总线转UART驱动程序设计
一、简介： MAX14830是一款四通道UART扩展器，通过SPI或I2C接口与微控制器通信。主要特性包括： 4个独立的全双工UART通道 可编程波特率（最高达12Mbps） 每个通道有128字节的发送和接收FIFO 支持硬件和软件流控制 可配置的GPIO引脚 工作电压：1.7V至5.5V 低功耗模式 二、硬件…...
x-cmd install | jellex - 用 Python 语法在终端里玩转 JSON 数据！
目录 核心功能与特点安装优势亮点适用场景 还在为命令行下处理 JSON 数据烦恼吗？jellex 来了！它是一款基于终端的交互式 JSON 和 JSON Lines 数据处理工具，让你用熟悉的 Python 语法，轻松过滤、转换和探索 JSON 数据。 核心功能与…...
2025天梯赛 L2专项训练
L2-049 鱼与熊掌 - 团体程序设计天梯赛-练习集 思路就是模拟，正常写就完事 #include<bits/stdc.h> using namespace std; int main() {int a, b;cin >> a >> b;vector<vector<int>>arr(a, vector<int>(0));for (int i 0; i &…...
214、【数组】下一个排列（Python）
题目描述 原题链接：31. 下一个排列 思路 从后往前，找到第一个小于右侧集合的数，从右侧集合中找到一个比该数大的最小的数替换上去。 然后，将右侧集合从小到排列，就为当前排列中，下一个排列的数。 代码实…...
 in String use 31 as a multiplier?)
Why does Java‘s hashCode() in String use 31 as a multiplier?
HashCode 为什么使用 31 作为乘数？ 1. 固定乘积 31 在这用到了2. 来自 stackoverflow 的回答3. Hash 值碰撞概率统计3.1 读取单词字典表3.2 Hash 计算函数3.3 Hash 碰撞概率计算封装碰撞统计信息的类3.4 针对一组乘数，分别计算碰撞率3.5 碰撞结果可视化3…...
如何将一个8s的接口优化到500ms以下
最近换了个工作，刚入职就接了个活--优化公司自营app的接口性能，提升用户体验。 刚开始还以为是1s优化到500ms这种，或者500ms优化到200ms的接口，感觉还挺有挑战的。下好app体验了一下。好家伙，那个慢已经超过了我的忍耐…...
如何保证本地缓存和redis的一致性
1. Cache Aside Pattern（旁路缓存模式） 核心思想：应用代码直接管理缓存与数据的同步，分为读写两个流程： 读取数据： 先查本地缓存（如 Guava Cache）。若本地未命中&…...
30天学Java第十天——反射机制
反射机制 反射机制是 Java 语言中的一个重要特性，它允许程序在运行时动态地获取类的信息（如类的属性、方法和构造器等），并且可以操作这些信息。 反射机制在某些情况下非常有用，例如开发框架、库，或者需要进…...
Nodejs Express框架
参考：Node.js Express 框架 | 菜鸟教程 第一个 Express 框架实例 接下来我们使用 Express 框架来输出 "Hello World"。 以下实例中我们引入了 express 模块，并在客户端发起请求后，响应 "Hello World" 字符串。 创建 e…...
视频设备轨迹回放平台EasyCVR打造货运汽车安全互联网视频监控与管理方案
一、背景介绍 随着互联网发展，货运中介平台大量涌现，行业纠纷也随之增多。尽管当前平台APP具备录音和定位功能，但货物交易流程的全方位监控仍无法实现。主流跟踪定位服务大部分聚焦货物轨迹与车辆定位，尚未实现货物全程可视化监控…...
玩转Docker | 使用Docker部署Docmost文档管理系统
玩转Docker | 使用Docker部署Docmost文档管理系统 前言一、Docmost介绍Docmost 简介Docmost 特点二、系统要求环境要求环境检查Docker版本检查检查操作系统版本三、部署Docmost服务下载镜像编辑部署文件创建容器检查容器状态检查服务端口安全设置四、访问Docmost服务访问Docmos…...