当前位置：首页 > news >正文

Pytorch中的计算图（Computational Graph）是什么

news 来源：原创 2025/8/25 23:30:05

🧩 一、什么是计算图？

计算图是一种“有向无环图（DAG）”，表示变量（张量）之间的运算关系。

节点：张量或操作（如加法、乘法）
边：数据流（即某个操作的输入/输出）

PyTorch 利用计算图实现 自动求导（Autograd）：它在前向传播时记录每一步操作，然后反向传播时根据这些操作自动求导。

🚀 二、PyTorch 中的动态图机制

PyTorch 使用动态图（即计算图在运行时即时构建）：

每当你执行一行涉及张量运算的代码时，PyTorch 会自动记录这步操作，形成计算图。

优点：

更直观、更易调试
支持条件语句和循环

🧪 三、完美案例：一步步构建计算图并求导

📌 目标函数：

我们来手动推导这个函数的导数，然后用 PyTorch 验证：

$y = (x + 2)^2$

✅ 手动推导导数：

$2)^2 \\ \frac{dy}{dx} = 2(x + 2)$

💻 PyTorch 实现

import torch# 1. 创建叶子张量，设置 requires_grad=True 以便追踪梯度
x = torch.tensor([3.0], requires_grad=True)# 2. 前向传播（自动构建计算图）
z = x + 2          # 第一步：加法
y = z ** 2         # 第二步：平方运算# 3. 反向传播，计算 dy/dx
y.backward()# 4. 打印梯度
print("x的值:", x.item())           # 3.0
print("y的值:", y.item())           # (3+2)^2 = 25
print("dy/dx 的值:", x.grad.item()) # 2*(3+2) = 10

✅ 输出：

x的值: 3.0
y的值: 25.0
dy/dx 的值: 10.0

🔍 四、计算图结构分析

print("y.grad_fn:", y.grad_fn)
print("z.grad_fn:", z.grad_fn)
print("x.grad_fn:", x.grad_fn)

输出如下：

y.grad_fn: <PowBackward0 object at ...>
z.grad_fn: <AddBackward0 object at ...>
x.grad_fn: None

说明：

y 是通过 PowBackward0（平方操作）生成的
z 是通过 AddBackward0（加法操作）生成的
x 是“叶子节点”（Leaf Tensor），自己创建，不是由计算生成的 → grad_fn = None

📌 五、可视化计算图结构（逻辑图）

画一下这个计算图：

x (Leaf, requires_grad=True)|[Add (+2)]|z|[Power (**2)]|y

PyTorch 在前向传播时自动建立这张图，反向传播时从 y 逆着往上走，用链式法则自动求导！

📎 `.requires_grad=True`

开启梯度追踪。否则 PyTorch 不会构建计算图。

📎 `.backward()`

触发反向传播，从输出开始回传，逐步计算每个可求导变量的梯度。

📎 `.grad`

存储当前张量的梯度结果（默认只对标量调用 .backward()，向量需指定 gradient）。

✅ 小结

概念	说明
计算图	一张记录张量计算关系的有向无环图，用于自动求导
动态构建	PyTorch 每次运行 forward 时自动构建计算图
grad_fn	每个非叶子张量都有 grad_fn 表示它由哪个操作生成
backward()	自动沿着计算图反向传播梯度
grad	存储梯度值（对叶子节点而言）

附：方向导数

把“方向”想象成一根箭头（向量），指向某个你关心的方向，
问：“这个输出向量 y，在这个箭头方向上的变化，是由输入 x 多大的变化引起的？”

向量函数 $\mathbf{y} \in \mathbb{R}^n$ ，你不能直接对它求导，因为那会得到一个 Jacobian（雅可比矩阵）：

$\frac{\partial \mathbf{y}}{\partial \mathbf{x}} \in \mathbb{R}^{n \times m}$

但如果你说：

我只关心 $\mathbf{y}$ 在方向 $\mathbf{v} = [v_1, v_2, ..., v_n]$ 上的变化，

那你实际上是在说：

$\text{组合函数： } s = \mathbf{v}^T \mathbf{y} = v_1 y_1 + v_2 y_2 + \cdots + v_n y_n$

这个 s 就是你自己手动构造的标量函数，这样 PyTorch 就能求导了。

你把这个方向向量 $\mathbf{v}$ 作为 .backward(gradient=...) 传入，告诉它：“请对我这个组合函数求导”。

举例：

假设 $\mathbf{y} \in \mathbb{R}^2$ ，即 y = [y1, y2] 是一个二维输出
你可以选择一个方向 $\mathbf{v} = [0.6, 0.8]$ ，也就是一根箭头向右上
然后问：在这个方向上，如果 y 发生变化，x 的梯度是多少？

这时候你就是把 y 向这个方向投影：

$\mathbf{v}^T \mathbf{y} = 0.6 \cdot y_1 + 0.8 \cdot y_2$

import torchx = torch.tensor([1.0, 2.0], requires_grad=True)
y = x ** 2          # y = [1.0, 4.0]
direction = torch.tensor([0.3, 0.7])  # 你关心的方向y.backward(gradient=direction)# 这时候你就把 direction = [0.3, 0.7]] 作为 y.backward() 的参数告诉 PyTorch，"我想反向传播的是这个方向"。print(x.grad)  # x.grad 是 y 在这个方向上线性组合的导数

分析：

y = [x₁², x₂²] ⇒ dy/dx = [2x₁, 2x₂] = [2.0, 4.0]
gradient = [0.3, 0.7]
所以：
$\cdot 0.3, 4.0 \cdot 0.7] = [0.6, 2.8]$

PyTorch 就会把这个结果放进 x.grad 里。

当loss是标量时：

output = model(x)  # output 是向量
loss = criterion(output, target)  # loss 是标量
loss.backward()  # ✅ 可以自动反向传播

为什么这里不需要你传 gradient？因为 loss 是标量，不需要说明方向，PyTorch知道你就是要对它求导。
但是如果你没有把向量变成标量，而是直接调用 .backward()，那 PyTorch 就不知道你想要哪个方向了，就必须你来指定。

Pytorch中的计算图（Computational Graph）是什么

🧩 一、什么是计算图？ 计算图是一种“有向无环图（DAG）”，表示变量（张量）之间的运算关系。节点：张量或操作（如加法、乘法）边：数据流（即…...

编程日记 2025/8/25 23:30:05

Java 大视界 -- Java 大数据在航天遥测数据分析中的技术突破与应用（177）

💖亲爱的朋友们，热烈欢迎来到青云交的博客！能与诸位在此相逢，我倍感荣幸。在这飞速更迭的时代，我们都渴望一方心灵净土，而我的博客正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识，也…...

编程日记 2025/8/25 7:18:46

【Linux操作系统——学习笔记三】Linux环境下多级目录构建与管理的命令行实践报告

1.在用户主目录下，使用以下方法新建目录，并显示详细执行过程： （1）使用绝对路径在当前目录下创建 new_dir目录 （2）使用相对路径、在当前目录创建dir1、dir2、dir3目录 （3&#xff09…...

编程日记 2025/8/23 16:07:35

java.util.Collections中常用api

在Java中，java.util.Collections 是一个工具类，提供了大量静态方法用于操作或返回集合（如List、Set、Map等）。以下是常用的API分类整理： 1. 排序与顺序操作 sort(List<T> list) 对List进行自然顺序排序&#xff…...

编程日记 2025/8/25 23:15:11

from PIL import Image, ImageEnhance # 确保导入 ImageEnhance 模块 import osdef adjust_image_tone(image_path, output_path, r_weight1.0, g_weight1.0, b_weight1.0, brightness1.0):"""调整图片的色调、明暗，并进行去图处理。参数:image_pat…...

编程日记 2025/8/21 16:48:44

OCC Shape 操作

#pragma once #include <iostream> #include <string> #include <filesystem> #include <TopoDS_Shape.hxx> #include <string>class GeometryIO { public:// 加载几何模型：支持 .brep, .step/.stp, .iges/.igsstatic TopoDS_Shape L…...

编程日记 2025/8/21 10:59:01

docker的run命令笔记250406

docker的run命令笔记250406 Docker 的 run 命令用于创建并启动一个新的容器。它是 Docker 中最常用的命令之一，基本语法为： docker run [OPTIONS] IMAGE [COMMAND] [ARG...]常用选项（OPTIONS） 参数说明-d 或 --detach后台运行…...

编程日记 2025/8/25 23:27:53

批量将 HTML 转换为 Word/Txt/PDF 等其它格式

HTML是一种超文本标记语言，在进行网页编辑的时候非常常见，我们浏览的网站内容，都可以保存为 html 格式，如果想要将 html 格式的文档转为其它格式，比如 Word、PDF 或者 Txt，我们应该怎么做呢？今天…...

编程日记 2025/8/25 23:19:25

TPS入门DAY02 服务器篇

1.创建空白插件 2.导入在线子系统以及在线steam子系统库 MultiplayerSessions.uplugin MultiplayerSessions.Build.cs 3.创建游戏实例以及初始化会话创建流程创建会话需要的函数，委托，委托绑定的回调，在线子系统接口绑定某一个委托的控制其…...

编程日记 2025/8/22 2:06:10

C高级，终端操作

核心要点整理刷题作业一、基础操作命令行提示符结构 ubuntuubuntu:~$ 当前用户 | 连接符 | 计算机名 | 当前路径 | 用户权限用户切换 su 用户名：切换用户sudo passwd 用户名：修改用户密码常用指令 cd -：返回上一次路径ls：显…...

编程日记 2025/8/25 22:04:41

Lua语言的边缘计算

Lua语言的边缘计算探索引言随着物联网（IoT）、人工智能（AI）和大数据技术迅速发展，边缘计算作为一种分布式计算架构日益受到重视。其核心理念是将计算和数据存储资源更靠近数据源，以降低延迟、减轻网络负…...

编程日记 2025/8/21 21:31:53

RabbitMQ运维

RabbitMQ运维一.集群1.简单介绍2.集群的作用二.搭建集群1.多机多节点搭建步骤 2.单机单节点搭建步骤 3.宕机演示三.仲裁队列1.简单介绍2.Raft协议Raft基本概念主节点选举选举过程 3.仲裁队列的使用四.HAProxy负载均衡1.安装HAProxy2.HAProxy的使用一.集群 1.简单介绍 Ra…...

编程日记 2025/8/21 19:25:10

【ESP32】ESP32物联网应用：MQTT控制与状态监测

ESP32物联网应用：MQTT控制与状态监测引言在物联网时代，远程监测和控制设备已经成为现实生活中常见的需求。本文将介绍如何使用ESP32微控制器配合MQTT协议，实现一个简单而强大的物联网应用：远程状态监测和设备控制。我们将以巴…...

编程日记 2025/8/20 19:52:16

如何保证RabbitMQ消息的可靠传输?

在这个图中，消息可能丢失的场景是1，2，3 1.在生产者将消息发送给RabbitMQ的时候，消息到底有没有正确的到达服务器呢，RabbitMQ提供了两种解决方案： a. 通过事务机制实现（比较消耗性能&#xff0…...

编程日记 2025/8/20 22:38:35

Redis高可用

主从复制为什么要主从复制？ 由于数据都是存储在一台服务器上，如果出事就完犊子了，比如： 如果服务器发生了宕机，由于数据恢复是需要点时间，那么这个期间是无法服务新的请求的；如果这台服务器…...

编程日记 2025/8/20 15:53:30

[项目总结] 在线OJ刷题系统项目技术应用(下)

🌸个人主页:https://blog.csdn.net/2301_80050796?spm1000.2115.3001.5343 🏵️热门专栏: 🧊 Java基本语法(97平均质量分)https://blog.csdn.net/2301_80050796/category_12615970.html?spm1001.2014.3001.5482 🍕 Collection与…...

编程日记 2025/8/23 18:22:17

链表算法中常用操作和技巧

目 1.常用技巧 1.1.画图 1.2.添加虚拟头节点 1.3.大胆引入中间变量 1.4.快慢双指针 1.4.1判断链表是否有环 1.4.2找链表中环的入口 2.常用操作 2.1. 创建一个新节点 2.2.尾插 2.3.头插 1.常用技巧 1.1.画图画图可以让一些抽象的文字语言更加形象生动画图&#…...

编程日记 2025/8/24 1:38:26

MySQL基础 [二] - 数据库基础

目录库的增删查改查看数据库创建数据库删除数据库修改数据库认识系统编码（字符集和校验规则） 查看系统默认字符集以及校验规则查看数据库支持的字符集和字符集校验规则验证不同校验码编码的影响校验规则对数据库的影响数据库的备份…...

编程日记 2025/8/20 18:33:59

【Linux篇】基础IO - 文件描述符的引入

📌 个人主页： 孙同学_ 🔧 文章专栏：Liunx 💡 关注我，分享经验，助你少走弯路！ 文章目录一. 理解文件1.1 侠义理解1.2 广义理解1.3 文件操作的归类认知1.4 系统角度二. 回顾C语言文件…...

编程日记 2025/8/21 21:26:42

13.【.NET 8 实战--孢子记账--从单体到微服务--转向微服务】--微服务基础工具与技术--Refit

在微服务架构中，不同服务之间经常需要相互调用以完成复杂业务流程，而 Refit 能让这种“跨服务调用”变得简洁又可靠。开发者只需将对外暴露的 REST 接口抽象成 C# 接口，并通过共享库或内部 NuGet 包在各服务中引用，这种契约优先的…...

编程日记 2025/8/22 21:44:51

C++ 并发性能优化实战：提升多线程应用的效率与稳定性

🧑 博主简介：CSDN博客专家、CSDN平台优质创作者，获得2024年博客之星荣誉证书，高级开发工程师，数学专业，拥有高级工程师证书；擅长C/C、C#等开发语言，熟悉Java常用开发技术&#xff0c…...

编程日记 2025/8/23 4:15:44

前端性能优化的全方位方案【待进一步结合项目】

以下是前端性能优化的全方位方案，结合代码配置和最佳实践，涵盖从代码编写到部署的全流程优化： 一、代码层面优化 1. HTML结构优化  <header><nav>...</nav> </header> <main&…...

编程日记 2025/8/22 11:36:50

(undone) 并行计算 CS149 Lecture3 (现代多核处理器2 + ISPC编程抽象)

url: https://www.bilibili.com/video/BV1du17YfE5G?spm_id_from333.788.videopod.sections&vd_source7a1a0bc74158c6993c7355c5490fc600&p3 如上堂课，超线程技术通过储存不同线程的 execution context，能够在一个线程等待 IO 的时候低成本切换…...

编程日记 2025/8/22 2:28:36

DiffAD：自动驾驶的统一扩散建模方法

25年3月来自新加坡公司 Carion 和北航的论文“DiffAD: A Unified Diffusion Modeling Approach for Autonomous Driving”。端到端自动驾驶 (E2E-AD) 已迅速成为实现完全自动驾驶的一种有前途的方法。然而，现有的 E2E-AD 系统通常采用传统的多任务框架&#xff0c…...

编程日记 2025/8/23 13:59:03

QScrollArea 内部滚动条 QSS 样式失效问题及解决方案

在使用 Qt 进行 UI 开发时，我们经常希望通过 QSS（Qt Style Sheets）自定义控件的外观，比如为 QScrollArea 的内部滚动条设置特定的样式。然而，有开发者遇到了这样的问题：在 UI 设计器中预览 QSS 显示效果正常，但程序运行时却显示为系统默认样式。经过反复测试和调试，最终…...

编程日记 2025/8/18 1:07:37

换脸视频FaceFusion3.1.0-附整合包

2025版最强换脸软件FaceFusion来了（附整合包）超变态的AI换脸教程 2025版最强换脸软件FaceFusion来了（附整合包）超变态的AI换脸教程整合包地址： 「Facefusion_V3.1.0」链接：https://pan.quark.cn/s/f71601…...

编程日记 2025/8/20 21:00:42

Qt 入门 1 之第一个程序 Hello World

Qt 入门1之第一个程序 Hello World 直接上操作步骤从头开始认识，打开Qt Creator，创建一个新项目，并依次执行以下操作在Qt Creator中，一个Kits 表示一个完整的构建环境，包括编译器、Qt版本、调试器等。在上图中可以直…...

编程日记 2025/8/22 7:51:30

无锁队列简介与实现示例

1. 简介无锁队列是一种数据结构，旨在在多线程环境中实现高效的并发访问，而无需使用传统的锁机制（如互斥锁）。无锁队列通过使用原子操作（如CAS，Compare-And-Swap）来确保线程安全，从…...

编程日记 2025/8/23 1:10:31

SpringMVC与SpringCloud的区别

SpringMVC与SpringCloud的核心区别功能定位 • SpringMVC： 基于Spring框架的Web层开发模块，采用MVC（Model-View-Controller）模式，专注于处理HTTP请求、路由分发（如DispatcherServlet）和视图…...

编程日记 2025/8/18 0:53:09

STM32F103C8T6单片机开发：简单说说单片机的外部GPIO中断(标准库)

目录前言如何使用STM32F1系列的标准库完成外部中断的抽象初始化我们的GPIO为输入的一个模式初识GPIO复用，开启GPIO的复用功能时钟 GPIO_EXTILineConfig和EXTI_Init配置外部中断参数插入一个小知识——如何正确的配置结构体？ 初始化中断&#…...

编程日记 2025/8/22 15:19:34

Python urllib3 全面指南：从基础到实战应用

欢迎来到涛涛的频道，今天用到了urllib3，和大家分享下。 1、介绍 urllib3 urllib3 是 Python 中一个功能强大且用户友好的 HTTP 客户端库，它提供了许多标准库 urllib 所不具备的高级特性。作为 Python 生态中最受欢迎的 HTTP 库之一&#xf…...

编程日记 2025/8/20 15:35:43

25.5 GLM-4优化RAG实战：0.1%参数实现准确率飙升30%，成本直降90%！

使用 GLM-4 优化 RAG 程序：基于标注数据的 Adapter 训练实战关键词：GLM-4 优化, RAG 增强, 数据标注, Adapter 训练, 检索增强生成 1. RAG 系统的核心挑战与优化方向传统 RAG（Retrieval-Augmented Generation）系统常面临以下瓶颈： graph LR A[用户提问] --> B[检…...

编程日记 2025/8/22 20:45:38

OrangePi入门教程(待更新)

快速上手指南 https://www.hiascend.com/developer/techArticles/20240301-1?envFlag1 教学课程(含开发板配置和推理应用开发) https://www.hiascend.com/developer/devboard 开发推理应用 https://www.hiascend.com/developer/techArticles/20240326-1?envFlag1...

编程日记 2025/8/17 23:45:18

基于SpringBoot+Vue实现的二手交易市场平台功能一

一、前言介绍： 1.1 项目摘要随着社会的发展和人们生活水平的提高，消费者购买能力的提升导致产生了大量的闲置物品，这些闲置物品具有一定的经济价值。特别是在高校环境中，学生群体作为一个具有一定消费水平的群体，每…...

编程日记 2025/8/22 4:51:17

TC3xx芯片的UCB介绍

文章目录前言一、UCB的定义及其功能简介二、UCB_BMHDx_ORIG and UCB_BMHDx_COPY (x 0 - 3)2.1 BMHD(Boot Mode Head) 三、UCB_SSW四、UCB_PFLASH_ORIG and UCB_PFLASH_COPY4.1 Password4.2 UCB Confirmation 前言缩写全称UCBUser Configuration BlockBMHDBoot Mode Headers…...

编程日记 2025/8/22 2:28:42

Airflow量化入门系列：第四章 A股数据处理与存储优化

Airflow量化入门系列：第四章 A股数据处理与存储优化本教程系统性地讲解了 Apache Airflow 在 A 股量化交易中的应用，覆盖从基础安装到高级功能的完整知识体系。通过八章内容，读者将掌握 Airflow 的核心概念、任务调度、数据处理、技术指标计…...

编程日记 2025/8/25 0:33:35

《海空重力测量理论方法及应用》之一重力仪系统组成及工作原理（下）

2、三轴稳定平台型稳定平台的作用是隔离测量载体角运动对重力观测量的影响，确保重力传感器的敏感轴方向始终与重向保持一致。当前主流的海空重力仪使用的稳定平台方案主要有4种: ①双轴阻尼陀螺平台: ②)双轴惯导加捷联方位平台: ③三轴惯导平台; ④捷联惯导…...

编程日记 2025/8/25 1:04:15

C++模板递归结构详解和使用

示例代码 template<typename _SourceIterator, typename _DestT> struct convert_pointer {typedef typename convert_pointer<typename _SourceIterator::pointer, _DestT>::type type; };1. 模板参数 _SourceIterator 是输入的类型，通常表示迭代器类…...

编程日记 2025/8/23 17:22:15

（八）PMSM驱动控制学习---无感控制之滑膜观测器

在FOC矢量控制中，我们需要实时得到转子的转速和位置 ，但在考虑到成本和使用场合的情况下，往往使用无感控制，因为无位置传感器克服了传统机械式传感器的很多缺点和不足。比如，机械式传感器对环境要求比较严格&#xff0…...

编程日记 2025/8/23 5:16:04

蓝桥杯真题-分糖果-题解

链接：https://www.lanqiao.cn/problems/4124/learning/ 题目复述：两种糖果，分别有9和16，分给7人，每个人得到的最少2，最多5，必需全部分完，几种分法？ 复习-深度优先搜索 …...

编程日记 2025/8/23 4:28:53

推荐系统（二十二）：基于MaskNet和WideDeep的商品推荐CTR模型实现

在上一篇文章《推荐系统（二十一）：基于MaskNet的商品推荐CTR模型实现》中，笔者基于 MaskNet 构建了一个简单的模型。笔者所经历的工业级实践证明，将 MaskNet 和 Wide&Deep 结合应用，可以取得不错的效果&…...

编程日记 2025/8/23 2:08:37

辅助查询是根据查询到的文档片段再去生成新的查询问题

💡 辅助查询是怎么来的？ 它是基于你当前查询（query）检索到的某个文档片段（chunk_result），再去“反推”出新的相关问题（utility queries），这些问题的作用是&a…...

编程日记 2025/8/22 2:28:35

Spring Cloud 框架为什么能处理高并发

Spring Cloud框架能够有效处理高并发场景，核心在于其微服务架构设计及多组件的协同作用，具体机制如下： 一、分布式架构设计支撑高扩展性服务拆分与集群部署 Spring Cloud通过微服务拆分将单体系统解耦为独立子服务，每个服务可独…...

编程日记 2025/8/18 1:00:12

Pseduo LiDAR（CVPR2019）

文章目录 AbstractIntroductionRelated WorkLiDAR-based 3D object detectionStereo- and monocular-based depth estimationImage-based 3D object detection MethodDepth estimationPseudo-LiDAR generationLiDAR vs. pseudo-LiDAR3D object detectionData representation ma…...

编程日记 2025/8/19 14:30:14