当前位置：首页 > news >正文

pytorch小记（十）：pytorch中torch.tril 和 torch.triu 详解

news 来源：原创 2025/8/11 11:44:30

pytorch小记（十）：pytorch中torch.tril 和 torch.triu 详解

PyTorch `torch.tril` 和 `torch.triu` 详解
- 1. `torch.tril`（计算下三角矩阵）
- - 📌 作用
  - 🔍 语法
  - 🔹 参数
  - 📌 示例
  - 🔍 `diagonal` 参数
  - 🔍 `torch.tril` 的应用
- 2. `torch.triu`（计算上三角矩阵）
- - 📌 作用
  - 🔍 语法
  - 🔹 参数
  - 📌 示例
  - 🔍 `diagonal` 参数
- 3. `torch.tril` vs `torch.triu` 对比
- 总结

PyTorch `torch.tril` 和 `torch.triu` 详解

在数值计算和深度学习中，下三角矩阵（Lower Triangular Matrix） 和 上三角矩阵（Upper Triangular Matrix） 是非常常见的矩阵操作。PyTorch 提供了 torch.tril() 和 torch.triu() 这两个函数，分别用于计算下三角矩阵和上三角矩阵。

1. `torch.tril`（计算下三角矩阵）

📌 作用

torch.tril 返回输入张量的 下三角部分，即：

保留 主对角线及其以下的元素。
主对角线以上的元素全部变为 0。

🔍 语法

torch.tril(input, diagonal=0)

🔹 参数

参数	说明
`input`	输入张量
`diagonal`	控制对角线位置（默认 `0`）
`diagonal=0`	保留主对角线及其以下的元素
`diagonal>0`	向上偏移，保留主对角线以上 `diagonal` 行
`diagonal<0`	向下偏移，移除 `-diagonal` 行的主对角线元素

📌 示例

import torch# 创建一个 4×4 的矩阵
A = torch.tensor([[1, 2, 3, 4],[5, 6, 7, 8],[9, 10, 11, 12],[13, 14, 15, 16]
])print("原始矩阵 A：")
print(A)# 计算 A 的下三角矩阵
L = torch.tril(A)
print("\nA 的下三角矩阵（diagonal=0）：")
print(L)

输出：

原始矩阵 A：
tensor([[ 1,  2,  3,  4],[ 5,  6,  7,  8],[ 9, 10, 11, 12],[13, 14, 15, 16]])A 的下三角矩阵（diagonal=0）：
tensor([[ 1,  0,  0,  0],[ 5,  6,  0,  0],[ 9, 10, 11,  0],[13, 14, 15, 16]])

💡 说明：主对角线上的元素保留，其上的元素变为 0。

🔍 `diagonal` 参数

print(torch.tril(A, diagonal=1))  # 保留主对角线以上 1 行
print(torch.tril(A, diagonal=-1)) # 移除主对角线

输出：

A 的下三角矩阵（diagonal=1）：
tensor([[ 1,  2,  0,  0],[ 5,  6,  7,  0],[ 9, 10, 11, 12],[13, 14, 15, 16]])A 的下三角矩阵（diagonal=-1）：
tensor([[ 0,  0,  0,  0],[ 5,  0,  0,  0],[ 9, 10,  0,  0],[13, 14, 15,  0]])

🔺 diagonal=1：向上偏移，保留 1 行主对角线以上的元素。
🔻 diagonal=-1：向下偏移，移除主对角线。

🔍 `torch.tril` 的应用

📌 用于 Masking（掩码）

seq_length = 5
mask = torch.tril(torch.ones(seq_length, seq_length))  # 创建一个下三角 Mask
print(mask)

输出：

tensor([[1., 0., 0., 0., 0.],[1., 1., 0., 0., 0.],[1., 1., 1., 0., 0.],[1., 1., 1., 1., 0.],[1., 1., 1., 1., 1.]])

💡 Transformer 中，这种 Mask 用于防止模型在训练时提前看到未来的信息。

2. `torch.triu`（计算上三角矩阵）

📌 作用

torch.triu 返回输入张量的 上三角部分，即：

保留 主对角线及其以上的元素。
主对角线以下的元素全部变为 0。

🔍 语法

torch.triu(input, diagonal=0)

🔹 参数

参数	说明
`input`	输入张量
`diagonal=0`	保留主对角线及其以上的元素
`diagonal>0`	移除 `diagonal` 行的主对角线元素
`diagonal<0`	保留主对角线以下 `-diagonal` 行

📌 示例

U = torch.triu(A)
print("A 的上三角矩阵（diagonal=0）：")
print(U)

输出：

A 的上三角矩阵（diagonal=0）：
tensor([[ 1,  2,  3,  4],[ 0,  6,  7,  8],[ 0,  0, 11, 12],[ 0,  0,  0, 16]])

💡 说明：主对角线上的元素及其上的元素保留，下面的元素变为 0。

🔍 `diagonal` 参数

print(torch.triu(A, diagonal=1))  # 移除主对角线元素
print(torch.triu(A, diagonal=-1)) # 保留主对角线以下 1 行

输出：

A 的上三角矩阵（diagonal=1）：
tensor([[ 0,  2,  3,  4],[ 0,  0,  7,  8],[ 0,  0,  0, 12],[ 0,  0,  0,  0]])A 的上三角矩阵（diagonal=-1）：
tensor([[ 1,  2,  3,  4],[ 5,  6,  7,  8],[ 0, 10, 11, 12],[ 0,  0, 15, 16]])

🔺 diagonal=1：移除主对角线的元素，仅保留主对角线以上的元素。
🔻 diagonal=-1：允许保留主对角线以下 1 行的元素。

3. `torch.tril` vs `torch.triu` 对比

作用	`torch.tril(A)`	`torch.triu(A)`
计算结果	取下三角部分	取上三角部分
对角线控制	`diagonal=0` 保留主对角线	`diagonal=0` 保留主对角线
`diagonal>0`	保留主对角线以上元素	移除主对角线部分元素
`diagonal<0`	移除主对角线部分元素	保留主对角线以下部分

总结

torch.tril() 取 下三角矩阵，可以用于 Cholesky 分解、Transformer Masking。
torch.triu() 取 上三角矩阵，常用于 线性代数计算 和 矩阵变换。

🚀 你可以根据不同的需求选择合适的函数，在 PyTorch 中高效处理矩阵运算！

pytorch小记（十）：pytorch中torch.tril 和 torch.triu 详解

pytorch小记（十）：pytorch中torch.tril 和 torch.triu 详解 PyTorch torch.tril 和 torch.triu 详解1. torch.tril（计算下三角矩阵）📌 作用🔍 语法🔹 参数📌 示例&#x1…...

编程日记 2025/8/11 11:44:30

C语言每日一练——day_11

引言针对初学者，每日练习几个题，快速上手C语言。第十一天。（连续更新中） 采用在线OJ的形式什么是在线OJ？ 在线判题系统（英语：Online Judge，缩写OJ）是一种在编程竞赛中…...

编程日记 2025/8/11 11:42:56

HCIA-PPP实验

一、LCP链路控制协议 1、链路建立阶段：通过交互LCP报文协商参数，包含了MRU、认证类型、魔术字等。 2、链路维护阶段： 3、链路终止二、NCP网络控制协议：交互PPP IPCP报文,检测地址、学习路由、下发地址 1、通过IPCP协议的请求消…...

编程日记 2025/8/8 18:09:12

C++学习之云盘项目nginx

1.复习 2.知识点概述 1. 一些基本概念 1.1 Nginx 初步认识 1.2 正向 / 反向代理 1.3 域名和 IP 2. Nginx 安装和配置 2.1 安装 2.2 配置 3. Nginx 的使用 3.1 部署静态网页 3.2 反向代理和负载均衡课外知识导读 1. URL 和 URI 2. DNS 解析过程 1. 一些基…...

编程日记 2025/8/11 11:44:27

7-字符串

1-ASCII 0-9 对应 48-57 A-Z 对应 65-90 a-z 对应 97-122 2-字符数组字符变量存储单个字符字符数组存储多个字符字符串就是字符数组加上结束符 ’ \0 ’ #include <iostream> using namespace std; int main(){//是字符数组，不是字符串char a1[]{C,,};…...

编程日记 2025/8/9 23:27:40

十七组件通信方式 1 props 父传子 //父组件 <script setup>//book来源省略import Subview1 from ./Subview1.vue;function updatebook(updatetimes){book.value.updatetimes updatetimes} </script> <template><Subview1 :book"book" :upd…...

编程日记 2025/8/11 11:42:53

Vue 渲染 LaTeX 公式 Markdown 库

🌟 前言欢迎来到我的技术小宇宙！🌌 这里不仅是我记录技术点滴的后花园，也是我分享学习心得和项目经验的乐园。📚 无论你是技术小白还是资深大牛，这里总有一些内容能触动你的好奇心。🔍 &#x…...

编程日记 2025/8/10 4:18:16

基于大模型的喉癌全程预测与治疗方案优化研究报告

目录一、引言 1.1 研究背景与意义 1.2 研究目的与目标 1.3 研究方法与数据来源二、大模型在喉癌预测中的应用原理 2.1 大模型概述 2.2 预测喉癌的技术原理 2.3 相关技术对比三、术前预测与方案制定 3.1 术前风险预测 3.1.1 淋巴结转移预测 3.1.2 其他风险因素预…...

编程日记 2025/8/7 0:00:24

SpringBoot第三站：配置嵌入式服务器使用外置的Servlet容器

目录 1. 配置嵌入式服务器 1.1 如何定制和修改Servlet容器的相关配置 1.server.port8080 2. server.context-path/tx 3. server.tomcat.uri-encodingUTF-8 1.2 注册Servlet三大组件【Servlet，Filter，Listener】 1. servlet 2. filter 3. 监听器…...

编程日记 2025/8/11 11:32:20

通向AGI的未来之路！首篇2D/视频/3D/4D统一生成框架全景综述(港科大中山等)

文章链接： https://arxiv.org/pdf/2503.04641 摘要理解并复现现实世界是人工通用智能（AGI）研究中的一个关键挑战。为实现这一目标，许多现有方法（例如世界模型）旨在捕捉支配物理世界的基本原理&#xff0…...

编程日记 2025/8/8 8:50:16

什么是MCP（Model Context Protocol）？对话、意图识别、服务调用和上下文管理

什么是MCP？ MCP（Model Context Protocol） 是一种专为人工智能模型设计的通信协议，旨在解决复杂 AI 系统中多个模型或组件之间的协同、状态管理和资源优化问题。它尤其适用于大型语言模型（LLM）、多模态系统及…...

编程日记 2025/8/11 11:41:18

第二十七篇数据仓库与维度建模指南：从理论到实战的进阶之路

声明：文章内容仅供参考，需仔细甄别。文中技术名称属相关方商标，仅作技术描述；代码示例为交流学习用途，部分参考开源文档（Apache 2.0/GPLv3）；案例数据已脱敏，技术推荐保持…...

编程日记 2025/8/5 23:59:53

定时任务引起的死锁

定时任务引起的死锁前言：Java面试题死锁的场景有哪些？你们是怎么解决的？ 锁有哪些特性？ 问题现象 1，文件上传报当前功能正在使用，请稍后再试 2，其他账号登录系统，登录不上去&a…...

编程日记 2025/8/8 12:05:57

NewStar CTF web wp

文章目录 week1headach3会赢吗智械危机谢谢皮蛋PangBai 过家家（1） week3include meblindsql1臭皮的计算机臭皮踩踩背这照片是你吗 week4Pangbai过家家四blindsql2chocolateezcmsssezpollute隐藏的密码 weeek5pangbai过家家(5)redissqlshell臭皮吹泡泡臭皮…...

编程日记 2025/8/11 11:44:28

Docker运行postgreSQL，由于异常启动或者退出后，提示could not locate a valid checkpoint record

pg_resetwal 是 PostgreSQL 的“急救工具”，用于在极端情况下修复因 WAL 或控制文件损坏导致的启动问题。但需注意： 风险极高，可能导致数据不一致。必须立即转储并恢复，避免直接在修复后的数据库中执行写操作。仅在备份后使用&…...

编程日记 2025/8/9 13:09:14

Leetcode 刷题笔记1 图论part01

图论的基础知识： 图的种类： 有向图（边有方向） 、无向图（边无方向）、加权有向图（边有方向和权值） 度： 无向图中几条边连接该节点，该节点就有几度&#xff1…...

编程日记 2025/8/11 11:44:30

文件管理系统

前言：之前我们讨论的是被打开文件的管理，那么未被打开的文件是如何管理的呢？ 1.认识磁盘设备 1.1磁盘的物理结构磁盘是由盘片（盘面，扇区，磁道，柱面），磁头&#xff0c…...

编程日记 2025/8/3 21:22:19

荣耀手机卸载应用商店、快应用中心等系统自带的

1.下载abd ADB Download - Get the latest version of ADB and fastboot 2.手机打开开发者选项 3.手机接电脑打开USB调试 4.下载MT管理器查看系统包名 D:\1.LFD\ADB\platform-tools-latest-windows\platform-tools>adb shell adb.exe: no devices/emulators found 这边是…...

编程日记 2025/8/11 11:41:19

结合基于标签置信度的特征选择方法用于部分多标签学习-简介版

假设部分多标签学习（PML）假设：假设样本的标签集合中存在伪正标签，即某些标签可能是错误的。目标是从候选标签集中识别出真实标签。特征与标签的关系假设：假设不同的标签对应的特征子空间可能是不同的，而不…...

编程日记 2025/8/8 5:59:54

【小白向】Word｜Word怎么给公式标号、调整公式字体和花括号对齐

【小白向】Word｜Word怎么给公式标号、调整公式字体和花括号对齐我的版本：Word 2021 如需快速查看关键步骤，请直接阅读标红部分。如果遇到无法调整的情况，可以直接下载我的示例文档进行参考：花括号和其他的示例公式.…...

编程日记 2025/8/5 1:37:40

基于香橙派 KunpengPro学习CANN(2)——Ascend Extension for PyTorch 配置与安装

将 PyTorch 网络迁移到昇腾平台并执行训练或推理，直接使用昇腾提供的构图接口构图。Ascend Extension for PyTorch插件用于适配PyTorch框架，可以使用昇腾AI处理器的算力。 1 pip 安装 # 下载PyTorch安装包 wget https://download.pytorch.org/whl/cpu/…...

编程日记 2025/8/11 10:16:17

【备赛】遇到的小问题-1

问题描述-1 想实现的功能是，通过ADC实时测量某引脚的电压及其占空比。可以通过旋转电位器，更改其电压。首先我定义了这几个变量 uint32_t adc_value;//HAL库函数里面得出的采样值(实时更新) uint32_t percentage6;//占空比，随着adc_val…...

编程日记 2025/8/6 5:00:25

Browser Use的安装和使用

文章目录一、介绍二、安装教程1、使用Conda创建虚拟环境2、激活环境3、安装browser use4、安装Playwright5、克隆git仓库6、安装项目的依赖三、使用教程1、启动WebUI2、案例13、案例2 一、介绍背景 Browser Use：用AI控制你的浏览器，你可以使用它帮你…...

编程日记 2025/8/6 22:33:44

碰一碰发视频saas系统技术源头一站式开发文档

碰一碰发视频系统技术源头一站式开发文档一、引言在数字化信息传播高速发展的当下，如何让视频分享更便捷、高效，成为商家和开发者们关注的焦点。“碰一碰发视频”系统以其独特的交互方式和强大的功能优势，为视频分享领域带来了革命性变革。…...

编程日记 2025/8/11 10:48:32

Spring Boot 静态访问配置属性的解决方案

前言在Spring Boot开发中，静态访问配置信息是一个常见需求，尤其是在工具类、常量类或非Bean类中直接获取配置值。问题背景假设我们的应用需要从application.yml中读取配置项app.logotype，并在工具类、静态方法或非Bean类中直接访问该值。…...

编程日记 2025/8/8 12:43:22

NLP高频面试题（四）——BN和LN的区别与联系，为什么attention要用LN

在深度学习模型中，Normalization是一种极为重要的技巧，Batch Normalization（BN）和Layer Normalization（LN）是其中最为常用的两种方法。然而，二者在实际应用中有着明显的区别与联系，尤…...

编程日记 2025/8/7 21:32:39

深度学习定义与分类【详细易懂初学者友好~】

深度学习（Deep Learning）是机器学习的一个子领域，它基于人工神经网络（Artificial Neural Networks，ANN）的理论和架构，通过构建多层（即“深度”）的神经网络结构来学习数据…...

编程日记 2025/8/6 15:53:57

二、小白学JAVA-认识数据类型【变量】

1、实际案例类比初中以上数学，就知道有有理数、正数、负数、0、小数、大写的数字、语文。 2、数据类型介绍 public class Main {public static void main(String[] args) {// 数据类型byte i_byte 12; // 标识数据范围小，但是节省内存>网络传输…...

编程日记 2025/8/2 18:54:06

UNI-APP uts插件支持ANDROID 监听手机状态

插件地址 https://ext.dcloud.net.cn/plugin?id22646 模块 import {startPhoneListener,stopPhoneListener,checkIsAutoRecord,toCallAutoRecorderPage,navigateToCallRecordingSettings,jumpToPermissionPage,makePhoneCall,allRecorderFilesAction,registerSmsReceiver,} f…...

编程日记 2025/8/9 10:16:26

pytorch小记（十）：pytorch中torch.tril 和 torch.triu 详解

PyTorch torch.tril 和 torch.triu 详解

1. torch.tril（计算下三角矩阵）

📌 作用

🔍 语法

🔹 参数

📌 示例

🔍 diagonal 参数

🔍 torch.tril 的应用

2. torch.triu（计算上三角矩阵）

📌 作用

🔍 语法

🔹 参数

📌 示例

🔍 diagonal 参数

3. torch.tril vs torch.triu 对比

总结

相关文章：

PyTorch `torch.tril` 和 `torch.triu` 详解

1. `torch.tril`（计算下三角矩阵）

🔍 `diagonal` 参数

🔍 `torch.tril` 的应用

2. `torch.triu`（计算上三角矩阵）

🔍 `diagonal` 参数

3. `torch.tril` vs `torch.triu` 对比