当前位置：首页 > news >正文

[预备知识]1. 线性代数基础

news 来源：原创 2025/7/27 13:48:44

人工智能

线性代数基础

线性代数是深度学习的重要基础，本章节将介绍深度学习中常用的线性代数概念和操作。

1. 标量、向量、矩阵与张量

1.1 标量（Scalar）

标量是单个数值，用 $\in \mathbb{R}$ 表示。在深度学习中常用于表示权重、偏置等参数。

import numpy as np# 创建标量
x = np.array(5)# 标量运算
print("标量加法:", x + 3)  # 5+3=8
print("标量减法:", x - 2)  # 5-2=3
print("标量数乘:", 2 * x)  # 2×5=10
print("标量除法:", x / 2)  # 5/2=2.5

1.2 向量（Vector）

向量是有序的一维数组，由多个标量组成，用列向量表示：

$\mathbf{x} = \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{bmatrix} \in \mathbb{R}^n$

其中， $x_1, x_2, ..., x_i$ 是向量 $\mathbf{x}$ 的元素。 $x_i$ 表示向量的第 $i$ 个元素。

在代码中，可以使用下标索引来访问向量的元素：

# 创建列向量（推荐显式声明二维结构）
x_col = np.array([[1], [2], [3]])  # 3×1列向量
x_row = np.array([1, 2, 3])        # 1×3行向量（严格来说是1维数组）# 向量运算
print("向量加法:\n", x_col + np.array([[4], [5], [6]]))  # 对应元素相加
print("向量数乘:\n", 2 * x_col)                          # 标量乘法
print("向量点积:", np.dot(x_row, np.array([4, 5, 6])))    # 1×3 ⋅ 3×1 = 标量

1.3 矩阵（Matrix）

矩阵是二维数组，由多个向量组成，用大写字母表示：
$\begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} \in \mathbb{R}^{m \times n}$

# 创建矩阵
A = np.array([[1, 2], [3, 4]])  # 2×2矩阵
B = np.array([[5, 6], [7, 8]])# 矩阵运算
print("矩阵加法:\n", A + B)          # 对应元素相加
print("矩阵乘法:\n", A @ B)          # 标准矩阵乘法
print("矩阵转置:\n", A.T)            # 行列互换

1.4 张量（Tensor）

张量是多维数组（三维及以上），常用于表示批量数据：
$\mathcal{X} \in \mathbb{R}^{b \times h \times w \times c}$
（b: 批次大小, h: 高度, w: 宽度, c: 通道数）

# 创建三维张量（2个样本，每个样本2×2矩阵）
X = np.array([[[1, 2], [3, 4]], [[5, 6], [7, 8]]])# 张量运算
print("张量加法:\n", X + 1)                     # 广播机制
print("张量转置:\n", X.transpose((0, 2, 1)))     # 交换最后两个维度

2. 矩阵运算

2.1 基本运算

加减法：要求相同维度
$\quad \text{其中} \quad c_{ij} = a_{ij} + b_{ij}$
数乘：
$\quad \text{其中} \quad b_{ij} = k \cdot a_{ij}$
矩阵乘法： $\in \mathbb{R}^{m \times n}, B \in \mathbb{R}^{n \times p}$
$\quad \text{其中} \quad c_{ij} = \sum_{k=1}^n a_{ik}b_{kj}$

2.2 特殊运算

哈达玛积（Hadamard Product）：
$\odot B \quad \text{其中} \quad c_{ij} = a_{ij} \cdot b_{ij}$
矩阵范数：
- Frobenius范数： $\|A\|_F = \sqrt{\sum_{i,j} a_{ij}^2}$
- L1范数： $\|A\|_1 = \max_j \sum_i |a_{ij}|$
- 谱范数（L2）： $\|A\|_2 = \sigma_{\text{max}}(A)$

# 哈达玛积
print("哈达玛积:\n", A * B)# 矩阵范数
print("Frobenius范数:", np.linalg.norm(A, 'fro'))  # √(1²+2²+3²+4²)=√30≈5.477
print("L1范数:", np.linalg.norm(A, 1))            # 最大列和：max(1+3, 2+4)=6
print("谱范数:", np.linalg.norm(A, 2))             # 最大奇异值≈5.464

3. 线性方程组

形如 $A\mathbf{x} = \mathbf{b}$ ，其中 $\in \mathbb{R}^{n \times n}$ 为系数矩阵。

解法：使用NumPy的np.linalg.solve()

A = np.array([[2, 1], [1, 3]])
b = np.array([4, 5])
x = np.linalg.solve(A, b)
print("解向量:", x)  # [1. 2.]

4. 行列式与逆矩阵

4.1 行列式（Determinant）

行列式表征矩阵的可逆性：

$\text{det}(A) \neq 0 \Leftrightarrow A$ 可逆
几何意义：线性变换的缩放因子

det_A = np.linalg.det(A)
print("行列式:", round(det_A, 2))  # 2×3 - 1×1 = 5

4.2 逆矩阵（Inverse Matrix）

若 $A$ 可逆，则存在 $A^{-1}$ 满足：
$A^{-1}A = AA^{-1} = I$

inv_A = np.linalg.inv(A)
print("逆矩阵:\n", inv_A)
# 验证乘积接近单位矩阵
print("验证:\n", np.round(A @ inv_A, 10))  # 四舍五入消除浮点误差

5. 特征值与特征向量

对矩阵 $\in \mathbb{R}^{n \times n}$ ，若存在标量 $\lambda$ 和非零向量 $\mathbf{v}$ 满足：
$A\mathbf{v} = \lambda\mathbf{v}$
则称 $\lambda$ 为特征值， $\mathbf{v}$ 为对应的特征向量。

eigenvalues, eigenvectors = np.linalg.eig(A)
print("特征值:", eigenvalues)   # [1.382, 3.618]
print("特征向量:\n", eigenvectors)# 验证特征方程（结果应近似相等）
for i in range(len(eigenvalues)):lhs = A @ eigenvectors[:, i]rhs = eigenvalues[i] * eigenvectors[:, i]print(f"验证 {i+1}:", np.allclose(lhs, rhs))  # 使用容差比较

应用实例：主成分分析（PCA）

数学原理

标准化数据： $X_{\text{scaled}} = \frac{X - \mu}{\sigma}$
计算协方差矩阵： $\frac{1}{n-1}X_{\text{scaled}}^T X_{\text{scaled}}$
特征分解： $V\Lambda V^T$
选择前 $k$ 大特征值对应的特征向量组成投影矩阵 $W$
降维： $X_{\text{pca}} = X_{\text{scaled}}W$

from sklearn.datasets import load_iris
from sklearn.preprocessing import StandardScaler# 加载数据
iris = load_iris()
X = iris.data# 标准化
X_scaled = StandardScaler().fit_transform(X)# 协方差矩阵
cov_matrix = np.cov(X_scaled.T)# 特征分解
eigenvalues, eigenvectors = np.linalg.eig(cov_matrix)# 按特征值降序排序
sorted_idx = np.argsort(eigenvalues)[::-1]
eigenvalues = eigenvalues[sorted_idx]
eigenvectors = eigenvectors[:, sorted_idx]# 选择前两个主成分
W = eigenvectors[:, :2]# 投影降维
X_pca = X_scaled @ Wprint("降维数据形状:", X_pca.shape)  # (150, 2)

[预备知识]1. 线性代数基础

线性代数基础线性代数是深度学习的重要基础，本章节将介绍深度学习中常用的线性代数概念和操作。 1. 标量、向量、矩阵与张量 1.1 标量（Scalar） 标量是单个数值，用 x ∈ R x \in \mathbb{R} x∈R 表示。在深度学习中常用于表…...

编程日记 2025/7/27 13:48:44

RESTful学习笔记（二）---简单网页前后端springboot项目搭建

新建项目： 项目结构 Pom.xml中添加依赖： 要有用于启动的父进程，有启动依赖，有lombok用于自动构建getter和setter方法等 <parent><groupId>org.springframework.boot</groupId><artifactId>spring-boot-…...

编程日记 2025/7/27 9:25:18

C++ AI模型部署优化实战：基于TensorRT的高效推理引擎开发

🧑 博主简介：CSDN博客专家、CSDN平台优质创作者，高级开发工程师，数学专业，10年以上C/C, C#, Java等多种编程语言开发经验，拥有高级工程师证书；擅长C/C、C#等开发语言，熟悉Java常用开…...

编程日记 2025/7/26 12:19:37

[特殊字符] Prompt如何驱动大模型对本地文件实现自主变更：Cline技术深度解析

在AI技术快速发展的今天，编程方式正在经历一场革命性的变革。从传统的"人写代码"到"AI辅助编程"，再到"AI自主编程"，开发效率得到了质的提升。Cline作为一款基于VSCode的AI编程助手，通过其独特的pro…...

编程日记 2025/7/27 13:42:35

DevOps功能详解

DevOps 详解 1. 什么是 DevOps？ DevOps 是 Development（开发） 和 Operations（运维） 的组合词，代表一种通过自动化工具、协作文化和流程优化来加速软件开发与交付的方法论。其核心目标是打破开发与运维…...

编程日记 2025/7/26 12:19:33

忽略 CS8616 警告在 Visual Studio 2022 中【C# 8.0 】

CS8616 警告是 C# 8.0 引入的可空引用类型(NRT)相关警告，表示"由于可空引用类型的特性，某个不可为 null 的字段可能未被初始化"。编辑项目csproj，直接删除<Nullable>enable</Nullable> 或者修改为disable或者annota…...

编程日记 2025/7/27 13:42:35

[架构之美]一键服务管理大师：Ubuntu智能服务停止与清理脚本深度解析

[架构之美]一键服务管理大师：Ubuntu智能服务停止与清理脚本深度解析服务展示： 运行脚本： 剩余服务： 一、脚本设计背景与核心价值在Linux服务器运维中，服务管理是日常操作的重要环节。本文介绍的智能服务管理脚本&a…...

编程日记 2025/7/26 12:19:29

23种设计模式-结构型模式之外观模式（Java版本）

Java 外观模式（Facade Pattern）详解 🧭 什么是外观模式？ 外观模式是结构型设计模式之一，为子系统中的一组接口提供一个统一的高层接口，使得子系统更易使用。就像是酒店前台，帮你处理入住、叫…...

编程日记 2025/7/27 13:48:44

《数据结构之美--双向链表》

引言之前我们学习了单链表这一数据结构，虽然单链表的功能比较多，但是也存在着一些局限性，因为在单链表中节点的指向都是单向的，因此我们想从某个节点找到它的上一个节点比较困难，来不及再迷恋单链表了，接…...

编程日记 2025/7/27 13:45:23

如何判断设备是否支持带电插拔——从原理到实操的全面解析

点击下面图片带您领略全新的嵌入式学习路线 🔥爆款热榜 88万阅读 1.6万收藏一、带电插拔的核心原理带电插拔（热插拔）的本质是通过电气隔离设计和顺序通断控制，避免电流突变对设备造成损害。 • 触点分级设计：支持热…...

编程日记 2025/7/27 13:44:43

Google Store 如何利用 glTF 3D 模型改变产品教育

Google 为全球广大用户提供种类繁多、持续改进的硬件产品。Google 的智能手机、智能手表、耳机、平板电脑、智能家居设备等产品均通过 Google Store(谷歌商店) 以及遍布全球的实体和数字第三方零售商销售。作为一个以在人工智能、智能家居和个人设备体验方面不断开拓创新而闻名…...

编程日记 2025/7/26 12:19:20

Android Studio版本 Flutter SDK 版本将依赖项添加到您的应用 flutter pub add flutter_riverpod flutter pub add riverpod_annotation flutter pub add dev:riverpod_generator flutter pub add dev:build_runner flutter pub add dev:custom_lint flutter pub add dev:riv…...

编程日记 2025/7/26 12:19:18

flutter 专题六十六 Flutter Dio包网络请求抓包解决方案

在Flutter中进行网络请求时，我们可以使用的库有3个，即Http请求库、HttpClient请求库和Dio请求库（详细介绍请参考：Flutter开发之Http网络请求），使用得最多的就是Dio请求库。因为相比Http请求库和HttpClient请…...

编程日记 2025/7/26 12:19:16

DSL(Domain Specific Language，领域特定语言)

DSL的定义和作用 DSL是为特定业务领域设计的专门语言，这里特指为欺诈检测场景设计的规则描述语言通过DSL，业务人员可以用接近自然语言的方式定义欺诈检测规则，而不需要编写复杂的代码DSL的具体实现：使用ANTLR4作为语法解析工具支…...

编程日记 2025/7/26 12:19:15

基于SpringBoot的心情疗愈平台-项目分享

基于SpringBoot的心情疗愈平台-项目分享项目介绍项目摘要管理员功能图用户实体图心理咨询师功能图系统功能图项目预览情感树洞发布帖子讲座信息心理医生心理医生管理最后项目介绍使用者：管理员、用户、心理咨询师开发技术：MySQLJavaSpringBootVue …...

编程日记 2025/7/26 12:19:13

富文本图片过大问题

在做若依的项目，碰到了若依自带的公告功能的图片上传后，再显示会出现图片过大的问题。在修改若依代码无果后，退而求其次修改展示页面的代码。问题描述： 在若依框架的打卡系统中，公告使用富文本上传图片后&#xff0…...

编程日记 2025/7/26 12:19:11

Python-Django系列—部件

部件是 Django 对 HTML 输入元素的表示。部件处理 HTML 的渲染，以及从对应于部件的 GET／POST 字典中提取数据。内置部件生成的 HTML 使用 HTML5 语法，目标是 <!DOCTYPE html>。例如，它使用布尔属性，如 checked…...

编程日记 2025/7/26 13:53:12

开发者视角：轻量便捷的AI视觉训推一体机如何实现AI模型快速开发

一、行业背景 1）数据与算力基础夯实：互联网、物联网和移动互联网的普及使得视觉数据呈爆发式增长，为AI视觉训推技术提供了丰富的“燃料”。同时，GPU、TPU等计算芯片的广泛使用，以及云计算的兴起，让计算能力…...

编程日记 2025/7/26 12:19:09

基于Python（Django）+SQLite实现（Web）校园助手

校园助手本校园助手采用 B/S 架构。并已将其部署到服务器上。在网址上输入 db.uplei.com 即可访问。使用说明可使用如下账号体验： 学生界面: 账号1：123 密码1：123 账户2：201805301348 密码2：1 # --------------…...

编程日记 2025/7/26 12:19:07

Django 入门指南：构建强大的 Web 应用程序

什么是 Django？ Django 是一个开源的高层次 Python Web 框架，旨在快速开发安全且可维护的网站。它通过简化常见的 Web 开发任务，帮助开发者专注于开发应用的核心功能。Django 实现了“快速开发”和“尽量少的重复”的理念，提供了…...

编程日记 2025/7/26 12:19:05

一文了解相位阵列天线中的真时延

本文要点真时延是宽带带相位阵列天线的关键元素之一。真时延透过在整个信号频谱上应用可变相移来消除波束斜视现象。在相位阵列中使用时延单元或电路板，以提供波束控制和相移。市场越来越需要更快、更可靠的通讯网络，而宽带通信系统正在努力满…...

编程日记 2025/7/26 12:19:04

LangChain实现PDF中图表文本多模态数据向量化及RAG应用实战指南

如何用LangChain实现PDF多模态数据向量化及RAG应用实战指南在大模型应用中，PDF文档因包含文本、表格、图片等异构数据，成为RAG（检索增强生成）系统的核心挑战。本文基于LangChain框架，结合多模态处理技术，…...

编程日记 2025/7/26 12:19:02

OkHttp入门

OkHttp 简介与使用示例 OkHttp 是一个高效的 HTTP 客户端，用于 Android、Java 应用程序以及 Kotlin 应用程序。它支持同步阻塞调用和异步调用，同时提供了强大的拦截器和重定向处理功能。OkHttp 由 Square 公司开发，因其高性能和易用性而广受…...

编程日记 2025/7/26 12:19:00

在ARM Linux应用层下驱动MFRC522

文章目录 1、前言2、IC卡和 IC卡读卡器3、MFRC5223.1、寄存器集3.2、命令集3.3、数据操作3.4、基础函数编写3.4.1、MFRC522接线3.4.2、编写SPI操作函数3.4.3、编写MFRC522基础函数3.4.3.1、完整的mfrc522.h3.4.3.2、写寄存器和读寄存器3.4.3.3、复位引脚操作3.4.3.4、天线操作…...

编程日记 2025/7/26 6:13:02

力扣第446场周赛

有事没赶上, 赛后模拟了一下, 分享一下我的解题思路和做题感受 1.执行指令后的得分题目链接如下：力扣给你两个数组：instructions 和 values，数组的长度均为 n。你需要根据以下规则模拟一个过程： 从下标 i 0 的第一个指令开始…...

编程日记 2025/7/26 5:12:55

close和shutdown

1.shutdown() 控制 TCP 连接的读写方向，不会关闭文件描述符，也不会触发四次挥手。 shutdown(sockfd, SHUT_RD): 关闭套接字的读方向。套接字不能再接收数据。 shutdown(sockfd, SHUT_WR): 关闭套接字的写方向。套接字不能再发送数据。 shutdown(sockfd…...

编程日记 2025/7/26 12:18:58

LeetCode算法题(Go语言实现)_54

题目给你两个正整数数组 spells 和 potions ，长度分别为 n 和 m ，其中 spells[i] 表示第 i 个咒语的能量强度，potions[j] 表示第 j 瓶药水的能量强度。同时给你一个整数 success 。一个咒语和药水的能量强度相乘如果大于等于 success &a…...

编程日记 2025/7/26 12:18:56

.NET应用UI框架DevExpress XAF v24.2新版亮点：支持.NET 9

DevExpress XAF是一款强大的现代应用程序框架，允许同时开发ASP.NET和WinForms。DevExpress XAF采用模块化设计，开发人员可以选择内建模块，也可以自行创建，从而以更快的速度和比开发人员当前更强有力的方式创建应用程序。在DevEx…...

编程日记 2025/7/26 12:18:54

前端通过jenkins和docker打包部署流程

通过jenkins实现镜像打包和上传 1.在jenkins上创建流水线任务点击新建任务填写任务名称选多分支流水线增加分支源选git 添加并选择凭据（有项目权限的git账号密码） 填写分支的正则表达式，多分支使用^(分支名|分支名)$ 保存 …...

编程日记 2025/7/26 13:53:10

SpringBoot自定义验证器：企业级参数校验架构设计与实践

一、需求分析与技术选型在复杂业务场景中，标准校验注解（如@NotBlank、@Pattern）往往无法满足特殊业务规则验证需求。例如：需要校验字段值在预定义的枚举范围内多字段之间存在关联性校验（如起始时间不能晚于结束时间）需要动态查询数据库进行业务规则校验架构设计原则：…...

编程日记 2025/7/26 13:53:08

4U带屏基于DSP/ARM+FPGA+AI的电力故障录波装置设计方案，支持全国产化

4U带屏DSP/ARMFPGAAI电力故障录波分析仪，支持国产化，含有CPU主控模块，96路模拟量采集，256路开关量，通讯扩展卡等#电力故障录波#4U带屏#新能源#电力监测主要特点 1）是采用嵌入式图形系统，以及…...

编程日记 2025/7/26 13:53:06

笔试题——第五周

目录 Day1 排序子序列消减整数最长上升子序列 Day2 爱吃素相差不超过k的最多数最长公共子序列(一) Day3 小红的口罩春游数位染色 Day4 素数回文活动安排合唱团 Day5 跳台阶扩展问题包含不超过两种字符的最长子串字符串的排列 Day6 ISBN号码 k…...

编程日记 2025/7/26 13:53:04

图论-Floyd算法

在搜索中bfs只适合无权图若是碰到有权图最简单的方法就是用邻接矩阵-二维矩阵存储每个点对之间的权重,然后用floyd 并且邻接矩阵还可以处理重边的问题（用min） INFfloat(inf) ma[[INF]*n for _ in range(n)]for i in range(n):ma[i][i]0for i in rang…...

编程日记 2025/7/26 13:53:01

使用pyinstaller打包fastapi项目的问题记录

文章目录 PyInstaller 相关介绍作用使用方式Spec 文件介绍 FastAPI 相关介绍什么是 FastAPI？使用方式使用 PyInstaller 打包 FastAPI 项目常见问题与解决方案 PyInstaller 相关介绍作用 PyInstaller 是一个将 Python 程序打包成独立可执行文件的工具&#xff0c…...

编程日记 2025/7/26 13:52:59

Java秒杀功能-案例

数据库表设计 CREATE TABLE user (id bigint(20) NOT NULL AUTO_INCREMENT,name varchar(100) NOT NULL,password varchar(100) NOT NULL,PRIMARY KEY (id) ) ENGINEInnoDB DEFAULT CHARSETutf8;CREATE TABLE order_info (id bigint(20) NOT NULL AUTO_INCREMENT,user_id bigi…...

编程日记 2025/7/26 22:53:40