当前位置：首页 > news >正文

关于图卷积

news 来源：原创 2025/8/24 13:50:35

深入理解神经网络中的图卷积

一、为什么需要图卷积（动机）

在图结构中，比如：

社交网络（节点是人，边是朋友关系）
分子结构（节点是原子，边是化学键）
知识图谱（节点是实体，边是关系）

这些数据不是规则排列的，不像图像那样有规律的网格结构。所以传统的卷积操作（CNN）就无法直接应用到这类数据上。图卷积就是为图这种结构量身打造的一种“邻域聚合”方式。

二、图的一些基础概念

我们来回顾一下图的一些数学定义：

图 $\mathcal{G} = (\mathcal{V}, \mathcal{E})$ ，其中：
- $\mathcal{V}$ 是节点集合， $|\mathcal{V}| = N$
- $\mathcal{E}$ 是边集合
邻接矩阵 $\in \mathbb{R}^{N \times N}$ ： $A_{ij} = 1$ 表示节点 $i$ 和 $j$ 有边
特征矩阵 $\in \mathbb{R}^{N \times F}$ ：每个节点的特征维度是 $F$

三、图卷积的核心思想（邻居聚合）

节点的表示 = 自己的特征 + 邻居的特征的加权求和

这就像你每个人的观点受到自己和周围朋友的影响。

我们用图神经网络（Graph Neural Network, GNN）的角度来表达图卷积操作。

四、GCN 经典公式（Kipf & Welling 2017）

我们从**GCN（Graph Convolutional Network）**的核心公式讲起：

1. 公式形式

$H^{(l+1)} = \sigma\left( \hat{D}^{-1/2} \hat{A} \hat{D}^{-1/2} H^{(l)} W^{(l)} \right)$

每一层都表示一次图卷积操作。

2. 各个符号是什么意思？

$H^{(l)}$ : 第 $l$ 层的节点表示（初始时 $H^{(0)} = X$ ）
$W^{(l)}$ : 第 $l$ 层的可学习权重矩阵
$\hat{A} = A + I$ : 加上自环后的邻接矩阵（考虑节点自身）
$\hat{D}_{ii} = \sum_j \hat{A}_{ij}$ ： $\hat{A}$ 的度矩阵
$\hat{D}^{-1/2} \hat{A} \hat{D}^{-1/2}$ ：对称归一化，防止度数影响太大
$\sigma$ ：激活函数（如ReLU）

3. 直觉解释

每一层：

先把每个节点的特征乘以权重 $W^{(l)}$
然后和邻居的特征加权平均
最后用激活函数激活

就像你和你的朋友讨论一个问题，讨论结果会更新你的观点。

五、从代码理解 GCN（PyTorch 实现）

import torch
import torch.nn as nn
import torch.nn.functional as Fclass GCNLayer(nn.Module):def __init__(self, in_feats, out_feats):super(GCNLayer, self).__init__()self.linear = nn.Linear(in_feats, out_feats)def forward(self, X, A):I = torch.eye(A.size(0)).to(A.device)A_hat = A + ID_hat = torch.diag(torch.pow(A_hat.sum(1), -0.5))A_norm = D_hat @ A_hat @ D_hat  # 对称归一化return F.relu(self.linear(A_norm @ X))

六、其他图卷积变体

1. GraphSAGE（采样邻居 + 拼接）

图卷积的一种变体是 GraphSAGE，它通过采样固定数量的邻居来减少计算量，尤其适合处理大规模图。GraphSAGE 的更新公式如下：

$h_v^{(l+1)} = \sigma \left( W \cdot \text{CONCAT} \left( h_v^{(l)}, \text{AGGREGATE} \left( \{ h_u^{(l)} \mid u \in N(v) \} \right) \right) \right)$

其中：

$h_v^{(l)}$ 表示节点 $v$ 在第 $l$ 层的特征。
$N (v)$ 表示节点 $v$ 的邻居集合。
$\text{AGGREGATE}(\cdot)$ 表示对邻居特征的聚合操作。
$W$ 是一个学习得到的权重矩阵。
$\text{CONCAT}(\cdot)$ 表示将节点本身的特征与聚合后的邻居特征拼接。
$\sigma$ 是激活函数，通常使用 ReLU 或者 Sigmoid。

GraphSAGE 关键特点：

采样邻居：避免了对所有邻居的计算，适合大图。
连接自己的特征和邻居聚合结果：合并当前节点的特征与邻居特征来更新节点表示。

2. GAT（Graph Attention Network）

引入了注意力机制，使得邻居特征的加权变得更加灵活和动态。GAT 的更新公式如下：

$h_i^{(l+1)} = \sigma \left( \sum_{j \in N(i)} \alpha_{ij} W h_j \right)$

其中：

$h_i^{(l)}$ 表示节点 $i$ 在第 $l$ 层的特征。
$N (i)$ 表示节点 $i$ 的邻居集合。
$W$ 是学习得到的权重矩阵。
$\alpha_{ij}$ 是节点 $i$ 与邻居节点 $j$ 之间的注意力权重。

注意力权重 $\alpha_{ij}$ 由以下公式计算：

$\alpha_{ij} = \text{softmax}(e_{ij})$

其中：

$e_{ij} = \text{LeakyReLU} \left( a^T \left[ W h_i \| W h_j \right] \right)$

$a$ 是学习得到的注意力参数向量。
$\cdot \| \cdot ]$ 表示拼接操作。
$\text{LeakyReLU}(\cdot)$ 是 Leaky ReLU 激活函数。

GAT 关键特点：

动态权重调整：每个邻居的特征不再是等权重的，而是根据“重要性”动态调整权重。

七、图卷积的局限与挑战

图结构不稳定：图的结构随着节点和边的增删变动，可能会极大影响图卷积的表示能力。
邻居爆炸式增长：当图规模非常大时，邻居节点的数量会急剧增加，导致计算复杂度暴增，需要采样方法来缓解。
动态图：随着时间的推移，图结构可能会发生变化，如何有效地建模动态图中的时间依赖关系是一个挑战。

八、图卷积常见应用

应用场景	具体任务
社交网络分析	用户分类、兴趣推荐
知识图谱	实体分类、关系预测
化学分子建模	分子性质预测、药物发现
交通图	路况预测、智能调度
文本建模	句子图、单词共现图进行分类或生成任务

关于图卷积

深入理解神经网络中的图卷积一、为什么需要图卷积（动机） 在图结构中，比如： 社交网络（节点是人，边是朋友关系）分子结构（节点是原子，边是化学键）知识图谱&a…...

编程日记 2025/8/24 13:50:35

Meta LLaMA 4：对抗 GPT-4o 与 Claude 的开源王牌

2025 年 4 月，Meta 正式发布了 LLaMA 4 系列的首批两款模型。这两款模型模型分别是：LLaMA 4 Scout 与 LLaMA 4 Maverick，均采用了专家混合架构（Mixture-of-Experts, MoE）。据 Meta 表示，这是首次有 …...

编程日记 2025/8/22 14:10:22

如何进行SQL调优

如何进行SQL调优 SQL 调优是优化数据库查询性能的过程，目的是减少查询的执行时间，提高数据库系统的整体效率。SQL 调优的技巧和方法可以针对不同的数据库管理系统（DBMS）有所不同，但基本的原则和步骤是相似的。以下是一…...

编程日记 2025/8/24 13:49:08

WAF防护规则配置技巧与企业级安全实践指南

面对日益复杂的Web应用攻击，WAF规则配置直接决定防护体系的有效性。本文深度解析规则优先级编排、误报消减策略、智能学习机制等17项关键技术，结合金融行业API攻击案例与Gartner最新防御框架，为企业提供可落地的WAF优化路径。 WAF规则引擎的…...

编程日记 2025/8/17 23:16:18

试题代码 sys.h #ifndef __SYS_H__ #define __SYS_H__#include <STC15F2K60S2.H> //ds1302.c extern unsigned char time[3]; void w_ds1302(); void r_ds1302(); //iic.c float v_adc(unsigned char addr); //sys.c extern float light_v; extern float rb2_v; exte…...

编程日记 2025/8/18 0:13:48

机器学习——ROC曲线、PR曲线

一、ROC曲线简介 1.1 ROC曲线的构成 1.横轴（假正率，FPR）： 表示负样本被错误分类为正的比例（越小越好） 2.纵轴（真正率，TPR，即召回率）： 表示正样…...

编程日记 2025/8/19 11:39:19

Flutter之交互事件

目录： 1、点击事件标准案例1.1、效果图2.1、代码实现 1、点击事件标准案例 1.1、效果图 2.1、代码实现 class FavoriteWidget extends StatefulWidget {const FavoriteWidget({super.key});overrideState<FavoriteWidget> createState() > _FavoriteWidge…...

编程日记 2025/8/21 15:22:24

深入解析Spring Boot自动装配：原理、设计与最佳实践

引言 Spring Boot作为现代Java开发中的一股清流，凭借其简洁、快速和高效的特性，迅速赢得了广大开发者的青睐。而在Spring Boot的众多特性中，自动装载（Auto-configuration）无疑是最为耀眼的明珠之一。本文将深入剖析Sp…...

编程日记 2025/8/24 5:59:15

【责任链】模式解决流程中多个接口的流程问题

业务需求整体流程有5步骤，每个步骤调用一个接口，每个接口成功才能进行下一步。如a->b->c->d->e， 比如入学报到 a：报班，根据名字生成学号uid b：根据学号分配班级获取班级编号cid c&#xff1a…...

编程日记 2025/8/23 14:10:05

excel常见错误包括（#N/A、#VALUE!、#REF!、#DIV/0!、#NUM!、#NAME?、#NULL! ）

目录 1. #N/A2. #VALUE!3. #REF!4. #DIV/0!5. #NUM!6. #NAME?7. #NULL!8.图表总结在 Excel 中，可能会遇到以下常见的错误值，每个都有特定的含义和成因： 1. #N/A 含义： 表示“Not Available”（不可用）。…...

编程日记 2025/8/20 9:19:02

【湖南大学】2025我们该如何看待DeepSeek

大家好，我是樱木。 DeepSeek 官方网站：https://www.deepseek.com/ 一、DeepSeek 到底是什么？ TA 到底厉害在哪里？ 故事从 ChatGPT 说起去年我们看到 Open AI 发布ChatGPT 后，全球的注意力到了 AI 身上。我们来拆…...

编程日记 2025/8/23 12:45:59

RAG中构建个人知识库

1. 添加本地模型 1.1 查看本地模型 ollama list1.2 ragflow添加本地模型 1.3 系统模型配置 2. 构建知识库 2.1 准备知识库素材 2.2 配置知识库 2.3 知识库绑定素材文件上传文件素材 - 解析文件 3. 构建交互系统 3.1 配置助理 3.2 完善提示词 3.3 设置模型参数 4. 体验效…...

编程日记 2025/8/23 15:54:19

在 Kubernetes (k8s) 中，apiserver 的 IIP和 VIP的区别

在 Kubernetes (k8s) 中，apiserver 的 IIP（Internal IP） 和 VIP（Virtual IP） 是与集群网络通信和高可用性设计相关的两个重要概念。 IIP（Internal IP） 定义： IIP 是 apiserver 所在…...

编程日记 2025/8/22 7:02:05

OpenCV--图像形态学

在图像处理领域，图像形态学是一种基于形状进行图像分析的有力工具，广泛应用于图像分割、特征提取、边缘检测、图像降噪等多个方面。借助 OpenCV 这个强大的计算机视觉库，我们可以轻松实现各种图像形态学操作。本文将深入探讨图像形态学的基本…...

编程日记 2025/8/20 2:26:35

智慧医疗数据集

WiNGPT2 更新时间：2024-11-29 访问地址: GitHub 描述： WiNGPT是一个基于GPT的医疗垂直领域大模型，旨在将专业的医学知识、医疗信息、数据融会贯通，为医疗行业提供智能化的医疗问答、诊断支持和医学知识等信息服务，…...

编程日记 2025/8/20 1:53:13

3D激光轮廓仪知识整理(待补充)

文章目录 1.原理和应用场景1.1 相机原理1.1.1 测量原理1.1.2 相机激光器1.1.3 沙姆镜头1.1.4 相机标定1.1.5 中心线提取 1.2 应用场景1.2.1 测量相关应用1.2.2 缺陷检测相关易用 2.相机参数介绍及选型介绍2.1 成像原理2.2 原始图成像2.3 生成轮廓图2.4 相机规格参数2.4.1 单轮廓…...

编程日记 2025/8/21 13:47:53

算法思想之双指针

文章目录双指针字符串序列判定字符串所有整数最小和服务交换接口失败率分析分披萨最多团队双指针双指针是指在解决问题时使用两个指针，通常分别指向数组或字符串中的不同位置，通过移动这两个指针来解决问题的一种技巧。双指针技巧常用于解决数组、链…...

编程日记 2025/8/22 10:07:54

Windows环境下PyCharm 配置miniforge

问题描述. 目前Anconda python 环境管理软件，已非常臃肿。为了替代该软件，可以使用miniforge软件来代替。 1. 安装windows miniforge软件 (1) 下载网站：https://github.com/conda-forge/miniforge?tabreadme-ov-file 从网址下载&#xff…...

编程日记 2025/8/20 10:41:33

C语言基础18

内容提要构造类型结构体共用体/联合体枚举 typedef 构造类型数据类型基本类型/基础类型整型短整型：short [int] -- 2字节基本整型：int -- 4字节长整型：long [int] -- 32位4字节/64位8字节长长整型：long long…...

编程日记 2025/8/23 23:50:27

Docker部署Jenkins服务

文章目录 1.下载Jenkins服务2.部署Java21（可选）2.1 安装Java21 3.Maven3.9.9安装4.启动Jenkins5.初始化Jenkins5.1 入门5.2 安装推荐的插件5.3 创建第一个管理员用户5.4 实例配置5.5 Jenkins已就绪5.6 开始使用Jenkins5.7 重启Jenkins 6.配置Jenkins6.1 …...

编程日记 2025/8/22 21:53:56

【题解-Acwing】798. 差分矩阵

题目：798. 差分矩阵题目描述输入一个n行m列的整数矩阵，再输入q个操作，每个操作包含五个整数 x1,y1,x2,y2,c，其中 (x1,y1)和 (x2,y2)表示一个子矩阵的左上角坐标和右下角坐标。每个操作都要将选中的子矩阵中的每个元素的值加…...

编程日记 2025/8/21 5:08:42

linux环境下的硬盘分区格式化工具介绍 fdisk,gdisk,parted,cfdisk,cgdisk,sfdisk,gparted 笔记250407

linux环境下的硬盘分区格式化工具介绍 fdisk,gdisk,parted,cfdisk,cgdisk,sfdisk,gparted 笔记250407 以下是 Linux 系统中常用的硬盘分区与格式化工具，涵盖命令行和图形界面工具，按功能分类整理： 一、分区管理工具 1. 命令行工具工具功能…...

编程日记 2025/8/22 12:36:21

Ubuntu 24.04 LTS系统安装RTX 4090显卡驱动和cuda并部署ollama下载DeepSeek模型【自用详细版】

自己捣鼓玩玩哈，正好有机子 1. 安装驱动前的系统配置工作卸载原有驱动并禁用nouveau sudo apt remove --purge nvidia*sudo cp /etc/modprobe.d/blacklist.conf /etc/modprobe.d/blacklist.conf.backup //备份文件sudo vim /etc/modprobe.d/blacklist.conf //修…...

编程日记 2025/8/21 1:56:06

FogFL: Fog-Assisted Federated Learning for Resource-Constrained IoT Devices

摘要提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 -在本文中，我们提出了一个支持雾的联邦学习框架–FogFL–来促进资源受限的物联网环境中延迟敏感应用的分布式学习。联邦学习（FL）是一种流行的分…...

编程日记 2025/8/22 20:05:47

音视频入门基础：RTCP专题（2）——RTCP协议简介（上）

一、引言本文对RTCP协议进行简介。在简介之前，请各位先下载RTCP的官方文档《RFC 3550》。《RFC 3550》总共有89页。本文下面所说的“页数”是指在pdf阅读器中显示的页数： 二、RTCP协议简介本段内容对应《RFC 3550》的第6节。根据《RFC 3550》第17页&…...

编程日记 2025/8/23 6:34:46

oklink js逆向（入口定位）

分析api请求，定位参数 X-Apikey 搜索关键字apikey，发现结果太多结合搜索结果，搜索关键字 apikey(，只找到5个断点后定位可见使用了字符串混淆，所以搜索不到 x-apikey 还可以通过搜索 headers，追踪调用栈的…...

编程日记 2025/8/22 20:52:21

go原子操作和锁的区别是什么？

在Go语言中，原子操作和锁都是用于实现并发编程的同步机制，但它们的工作方式和适用场景有所不同。下面是它们的主要区别： 1. 原子操作（Atomic Operations） 定义：原子操作是一种不可分割的操作，…...

编程日记 2025/8/21 13:45:31

QtConcurrent

以下是 QtConcurrent 的一些常见用法示例： QtConcurrent::run QtConcurrent::run 是最常用的函数，用于在单独的线程中运行一个函数。运行普通函数 #include <QtConcurrent> #include <QDebug> #include <QThread>void myFunction…...

编程日记 2025/8/19 2:54:42

Git 仓库在内网与 Gitee 间迁移及同步记录

Git 仓库在内网与 Gitee 间迁移及同步记录在软件开发过程中，常常会遇到需要将代码仓库进行迁移或同步的情况。近期我就碰到了要把 Gitee 代码仓库移植到内网代码仓库，并且后续还得进行同步的需求。这里把整个过程记录下来，方便以后自己参考…...

编程日记 2025/8/24 2:04:41

如何保证mysql和redis的数据一致性

保证 MySQL 和 Redis 的数据一致性是分布式系统中常见的挑战，因为 Redis 作为缓存层，可能存在与底层数据库数据不一致的情况。以下是几种常用的方案及其优缺点对比： 1. 缓存更新策略 (1) Cache-Aside Pattern（旁路缓存模式&#…...

编程日记 2025/8/21 22:13:41

Java学习——day23(反射的对象创建与方法调用)

文章目录 1. 使用反射实例化对象1.1 利用无参构造函数创建对象1.2利用带参构造函数创建对象 2.通过反射调用对象方法2.1 调用公共方法2.2 调用私有方法（需设置访问权限）3. 访问和修改对象的属性3.1 公共属性3.2 私有属性 4. 实践任务4.1工厂类 SimpleFac…...

编程日记 2025/8/17 22:13:07

遇到无法连接香港服务器可能是什么原因导致的呢

遇到无法连接香港服务器的情况时，别急着重启或联系客服，先搞清楚到底是哪里断了链条。问题可能出在服务器本身，也可能是你的本地网络、路由路径、DNS、甚至运营商的“干预”。以下是常见的几个可能原因，建议你可以逐一排查&#x…...

编程日记 2025/8/23 12:06:32

Python----计算机视觉处理（Opencv:道路检测完整版：透视变换，提取车道线，车道线拟合，车道线显示，）

Python----计算机视觉处理（Opencv:道路检测之道路透视变换) Python----计算机视觉处理（Opencv:道路检测之提取车道线） Python----计算机视觉处理（Opencv:道路检测之车道线拟合） Python----计算机视觉处理&#xff0…...

编程日记 2025/8/20 15:55:07

javaweb自用笔记：Maven分模块设计与开发、Maven继承与聚合、Maven私服

Maven分模块设计与开发 Maven继承与聚合继承版本锁定 dependencies引入依赖，dependencyManagement不代表依赖被引入，如果要使用dependencyManagement下的依赖，还需要在dependencies里面定义聚合如果没有用聚合，将这个项目打…...

编程日记 2025/8/23 14:49:22

在PyCharm中出现全角字符与非英文符号混合输入的问题

在PyCharm中出现全角字符与非英文符号混合输入的问题（如 １２４３４５ｄｆｓ＄￥ｃｖｄ）&#xff0…...

编程日记 2025/8/23 16:40:57

数字身份DID协议：如何用Solidity编写去中心化身份合约

本文提出基于以太坊的自主主权身份（SSI）实现方案，通过扩展ERC-734/ERC-735标准构建链上身份核心合约，支持可验证声明、多密钥轮换、属性隐私保护等特性。设计的三层架构体系将身份控制逻辑与数据存储分离，在测试网环境…...

编程日记 2025/8/24 8:17:37

Linux的RPM包管理详解

Linux的RPM包管理详解引言 RPM（Red Hat Package Manager）是Linux系统中一种重要的软件包管理工具，它以“.rpm”为扩展名，广泛应用于基于Red Hat的Linux发行版，如CentOS、Fedora、openSUSE等。RPM包不仅简化了软件包…...

编程日记 2025/8/21 17:05:47

其它理论原则

ABC理论假设（Assumption）影响行为（Behavior），行为最终影响结果（Consequence）。如果产品经理认为同事是一个不讲道理的人，那么产品经理在和他交流时就会产生抵触的行为&#xff0c…...

编程日记 2025/8/24 9:31:52

C++中的类和对象（上）

1 类的定义 1.1 类定义的格式 1 class为定义类的关键字，Stack为类的名字，{}中为类的主体，注意类定义结束时后面分号不能省略》。类体中内容称为类的成员：类中的变量称为类的属性或成员变量; 类中的函数称为类的方法或者成员函数…...

编程日记 2025/8/17 22:14:05

LLaMA-Factory 数据集成从入门到精通

一、框架概述 LLaMA-Factory 框架通过Alpaca/Sharegpt双格式体系实现多任务适配，其中Alpaca专注结构化指令微调（含SFT/DPO/预训练），Sharegpt支持多角色对话及多模态数据集成。核心配置依托 dataset_info.json 实现数据源映射、格…...

编程日记 2025/8/23 22:07:26

高级：JVM面试题深度剖析

一、引言在Java技术面试中，JVM（Java虚拟机）相关知识是考察重点之一。深入理解JVM的内存模型、垃圾回收机制、类加载机制等，不仅能帮助开发者优化Java应用性能，还能在面试中展现深厚的技术功底。本文将针对这些高频知…...

编程日记 2025/8/22 1:20:44

Spring MVC 中 @ResponseBody 注解深度使用教程

一、注解核心作用 ResponseBody 是 Spring MVC 中处理响应体内容的核心注解，主要功能： 跳过视图解析器：直接返回数据而非视图名称自动数据转换：根据返回值类型自动转换响应格式（JSON/XML/纯文本）RESTfu…...

编程日记 2025/8/23 12:20:37

数据结构第一轮复习--第七章查找（包含课程代码）

基于数组实现顺序查找代码 //顺序查找的实现 typedef struct{ //查找表的数据结构（顺序表） ElemType *elem; //指向开辟的动态数组基址 （起始地址） int TableLen; //表的长度 }SSTable; //顺序查找 int Search_Seq(SSTable ST…...

编程日记 2025/8/21 10:12:12

Springboot JPA 集成ShardingSphere

Spring Boot集成JPA与ShardingSphere可通过以下步骤实现分库分表功能，需重点关注依赖配置、分片规则定义及JPA适配问题： 一、依赖配置 1‌. 引入核心依赖‌ 在pom.xml中添加ShardingSphere和JPA相关依赖： <!-- ShardingSphere JDBC --&…...

编程日记 2025/8/24 13:14:24

详细介绍javaspringboot操控redis的高级特性1. 事务支持2. 发布/订阅3. Pipeline批量操作

Spring Boot 对 Redis 的操作提供了丰富的高级特性，以下是对事务支持、发布 / 订阅、Pipeline 批量操作的详细介绍： 事务支持原理：Redis 事务是一个单独的隔离操作，它可以包含多个命令，这些命令要么全部执行&#x…...

编程日记 2025/8/24 7:22:56

第一次3D打印，一个简单的小方块（Rhino）

一、建模打开犀牛，我们选择立方体我们点击上册的中心点输入0，然后回车0 而后我们输长度：10，回车确认同样的，宽度10 高度同样是10 回车确认后，我们得到一个正方形二、导出模型我们选择文件—>保存…...

编程日记 2025/8/17 23:25:02

数据分享：汽车测评数据

说明：如需数据可以直接到文章最后关注获取。 1.数据背景 Car Evaluation汽车测评数据集是一个经典的机器学习数据集，最初由 Marko Bohanec 和 Blaz Zupan 创建，并在 1997 年发表于论文 "Classifier learning from examples: Common …...

编程日记 2025/8/22 23:01:17