当前位置：首页 > news >正文

12.9-12.16学习周报

news 来源：原创 2025/7/2 3:32:57

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

文章目录

摘要
Abstract
一、SNN与传统ANN的比较
- 1.SNN概述
- 2.SNN神经元和ANN的比较结构
- 3.spikingjelly
- - 1.数据格式
  - 2.状态的保存和重置
  - 3.传播模式
  - 4.神经元
二、图数据库
- 1.图数据库的概念
- 2.图数据模型
- 3.图数据的储存
- 4.图数据库的查询
总结

摘要

本周对脉冲神经网络进行了更加深刻具体的学习，理解了SNN膜电位公式的含义以及计算的过程，学习了spikingjelly快速搭建SNN。了解了图数据库的相关概念，存储方式和特点，为后面对于持续学习的研究做铺垫。

Abstract

This week, I studied the spiking neural network more deeply and concretely, understood the meaning of the SNN membrane potential formula and the calculation process, and learned how to build SNN quickly by spikingjelly. This paper understands the related concepts, storage methods and characteristics of graph databases, which paves the way for the future research on continuous learning.

一、SNN与传统ANN的比较

1.SNN概述

SNN（脉冲神经网络)被称为第三代神经网络，与感知机和BP神经网络相比，SNN的模型更加接近人脑中的神经元细胞，更接近生物神经元机制。脉冲神经网络与目前流行的神经网络和机器学习方法有着根本上的不同。SNN使用的脉冲是在一个时间点内所发生的离散事件，并不是连续的值。每个峰值由代表生物过程的微分方程表示出来，其中最重要的是神经元的膜电位。本质上，一旦神经元达到了某一电位，脉冲就会出现，随后达到电位的神经元会被重置。对此，最常见的模型是 Leaky Integrate-And-Fire (LIF) 模型。此外，SNN 通常是稀疏连接的，并会利用特殊的网络拓扑。

2.SNN神经元和ANN的比较结构

如下图时ANN与SNN的神经元结构:
在这里插入图片描述

在这里插入图片描述
ANN的神经元结构较为简单，将输入a1,a2,…an和权重参数w1，w2,…wn进行相乘以后在求和,加上偏置值b，最后再通过非线性函数例如:tanh,softmax,relu等来进行激活。
也就是说ANN的计算公式如下:
ANN 中的神经元使用高精度和连续值编码的激活值进行相互通信，并且只在空间域 (spatial domain，即 layer by layer) 传播信息。从上述方程可以看出，输入和权重的相乘和累加 (MAC) 是网络的主要操作。

SNN的神经元结构和ANN相似，但是由于神经脉冲在神经元和突触之间传递是一个动力学的过程，其计算公式比起ANN要复杂的多，这也是目前我理解SNN较为头疼的一个地方。脉冲神经元之间的交流通过 binary 的 events，而不是连续的激活值。

SNN的计算公式如下: 在这里插入图片描述
公式中涉及微分方程和众多参数，逐个来进行解释一下:
(1)式子中t代表时间步长，du(t)/dt前面的符号
是一个常数，u和s代表膜电位和峰值输出。
(2)ur1和ur2代表静息电位和重置电位。
(3)wj是第j个突出的权重参数。
(4)t^k j 是当第j个输入突触的第k个脉冲在T欧内噶这个积分时间窗口内激发了 (即状态为1) 的时刻。
(5)K(…)是代表延时效应的核函数。
(6) 在这里插入图片描述
是积分时间窗口。
(7)uth是一个阈值，达到这个阈值就会触发脉冲(点火fire)一次
(8)

上述公式比较复杂，用看到的一些参考资料来解释一下:
(1)当膜电位u(t)高于阈值uth以后就会触发脉冲，脉冲神经元看做一次点火，此时神经元输出电位s(t)=1,表示正在释放脉冲，在释放脉冲的时候，膜电位u(t)被重置，回归到ur2.
(2)当膜电位u(t)低于阈值uth，s(t)膜电位就会保持为0。
(3)在每个 time step，膜电位u(t)的更新满足上述的微分方程。
(4)在每个 time step,膜电位u(t)的值应下降****u(t)-ur1,ur1为静息电位
(5)在每个时间步内，膜电位u(t)的值应该上升一个值，这个上升的值的大小取决神经元的第j个输入，每个输入突触都有自己的权重参数wj，这个突触对膜电位上升值的贡献是：在这里插入图片描述
即在S^Tw j 个脉冲中，如果t^k j的输入脉冲是处于1，即点火状态，就计算一次K(t-t^kj)，最后在进行累加。最终的膜电位是下降值和上升值相加。如下图所示:

3.spikingjelly

SpikingJelly 是一个基于 PyTorch ，使用脉冲神经网络(Spiking Neural Network, SNN)进行深度学习的框架。

以下是从官方文档来学习的一些spikingjelly基础知识代码的实现:

1.数据格式

在 spikingjelly.activation_based 中，数据有两种格式，分别为：

表示单个时刻的数据，其 shape = [N, ]，其中 N 是batch维度， 表示任意额外的维度

表示多个时刻的数据，其 shape = [T, N, ]，其中 T 是数据的时间维度， N 是batch维度， 表示任意额外的维度

spikingjelly.activation_based 中的模块，具有两种传播模式，分别是单步模式(single-step)和多步模式(multi-step)。在单步模式下，数据使用 shape = [N, *] 的格式；而在多步模式下，数据使用 shape = [T, N, *] 的格式。

import torch
from spikingjelly.activation_based import neuron
net=neuron.IFNode(step_mode='m')#多步模式，数据采用shape[T,N,*],T为数据的时间维度,N表示维度batch,*为额外维度
net.step_mode='s'#单步模式,数据采用shape[N,*],N表示维度batch,*为额外维度

2.状态的保存和重置

SNN中的神经元等模块，与RNN类似。带有隐藏状态，上一个的输出会影响到下一个输出。即Y(t)=f(t,H(t-1))。
例如，我们新建一层IF神经元，设置为单步模式，查看给与输入前的默认电压，和给与输入后的电压：

import torch
from spikingjelly.activation_based import neuron
net=neuron.IFNode(step_mode='s')#设置为单步模式
x=torch.rand([4])#生成四个随机张量
print(net)
print(f'初始v的值:v={net.v}')
y=net(x)#将随机张量传给神经元
print(f'x={x}')
print(f'y={y}')
print(f'v={net.v}')

上述代码首先创建了一个IF神经元，并设置为单步模式，然后生成四个随机张量x，将x传入net进行前向传播，计算变化后的膜电位，和阈值进行比较判断是否放电，放电的话y中会产生结果1，否则都是0.
在这里插入图片描述
由于IF神经元的膜电位阈值默认为:1

生成的随机张量都是小于膜电位阈值的，所有没有放电，y的所有结果都是0。将上述代码修改一下，生成大于1的随机张量，就会导致放电。
放电以后，膜电位会被重置变为0.

若我们给与一个新的输入，则应该先清除神经元之前的状态，让其恢复到初始化状态，可以通过调用模块的 self.reset() 函数实现：

import torch
from spikingjelly.activation_based import neuron
net=neuron.IFNode(step_mode='s')#设置为单步模式
x=torch.rand([4])#生成四个随机张量
print(f'v:{net.v}')#初始电位
y=net(x)
print(f'v:{net.v}')#前向传播后的电位
net.reset()#手动重置膜电位
print(f'v:{net.v}')
x=torch.rand([10])+1
y=net(x)
print(f'v:{net.v}')

在这里插入图片描述
调用了self.reset后膜电位恢复到初始值，值得一提的是，如果忘了重置，在推理时可能输出错误的结果，而在训练时则会直接报错。

方便起见，还可以通过调用 spikingjelly.activation_based.functional.reset_net 将整个网络中的所有有状态模块进行重置。

functional.reset_net(net)

3.传播模式

若一个网络全部由单步模块构成，则整个网络的计算顺序是按照逐步传播(step-by-step)的模式进行，以下是官方文档中提供的例子:

for t in range(T):x = x_seq[t]y = net(x)y_seq_step_by_step.append(y.unsqueeze(0))y_seq_step_by_step = torch.cat(y_seq_step_by_step, 0)

如果网络全部由多步模块构成，则整个网络的计算顺序是按照逐层传播(layer-by-layer)的模式进行，例如：

import torch
import torch.nn as nn
from spikingjelly.activation_based import neuron, functional, layer
T = 4
N = 2
C = 8
x_seq = torch.rand([T, N, C]) * 64.net = nn.Sequential(layer.Linear(C, 4),neuron.IFNode(),layer.Linear(4, 2),neuron.IFNode()
)functional.set_step_mode(net, step_mode='m')
with torch.no_grad():y_seq_layer_by_layer = x_seqfor i in range(net.__len__()):y_seq_layer_by_layer = net[i](y_seq_layer_by_layer)

逐步传播和逐层传播，实际上只是计算顺序不同，它们的计算结果是完全相同的：

import torch
import torch.nn as nn
from spikingjelly.activation_based import neuron,functional,layer
T = 4#时间步
N = 2#批次
C = 3#通道数
H = 8#8*8
W = 8
x_seq=torch.rand([T, N, C, H, W])*64net=nn.Sequential(layer.Conv2d(3,8,3,1,1,bias=False),neuron.IFNode(),layer.MaxPool2d(2,2),neuron.IFNode(),layer.Flatten(start_dim=1),layer.Linear(8 * H // 2 * W // 2, 10),neuron.IFNode(),
)print(f'net={net}')with torch.no_grad():y_seq_step_by_step=[]for t in range(T):x=x_seq[t]y=net(x)y_seq_step_by_step.append(y.unsqueeze(0))y_seq_step_by_step=torch.cat(y_seq_step_by_step,0)#将两个张量按照指定维度print(f'y_seq_step_by_step=\n{y_seq_step_by_step}')functional.reset_net(net)#将网络中所有神经元的电位恢复functional.set_step_mode(net,step_mode='m')#设置多步模式y_seq_layer_by_layer=net(x_seq)#计算误差max_error=(y_seq_layer_by_layer-y_seq_step_by_step).abs().max()print(max_error)

在这里插入图片描述
从结果可以看出，逐步传播和逐层传播计算结果是相同的。

4.神经元

spikingjelly中为我们封装好了多种神经元，我们以IF神经元为例:
在这里插入图片描述
这是IF神经元封装好的代码，其中有几个参数，也是众多神经元都共有的参数需要我们去关注一下:
1.v_threshold是神经元的阈值电压，达到该阈值电压以后就会释放脉冲。
2.v_reset为重置电压，默认为0。一般释放脉冲后，膜电位就会变成重置电压。如果将该变量设置为None,则释放脉冲后，膜电位变为当前膜电位减去阈值电压。
3.surrogate_function – 反向传播时用来计算脉冲函数梯度的替代函数

释放脉冲消耗了神经元之前积累的电荷，因此膜电位会有一个瞬间的降低，即膜电位的重置。在SNN中，对膜电位重置的实现，有2种方式：

Hard方式：释放脉冲后，膜电位直接被设置成重置电压：V(t)=V(reset)

Soft方式：释放脉冲后，膜电位减去阈值电压：V(t)=V(t)-V(threshold)
尝试使用IF神经元，给定几个电流输入，绘制膜电位和脉冲的图像:

import torch
from spikingjelly.activation_based import neuron,layer,functional
from spikingjelly import visualizing
from matplotlib import pyplot as plt
import os
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"
IF_layer=neuron.IFNode()#输入新特征时要重置膜电位
IF_layer.reset()
z=torch.as_tensor([0.02])
T=200
s_list=[]#储存脉冲
v_list=[]#储存膜电位
for t in range(T):s_list.append(IF_layer(z))v_list.append(IF_layer.v)dpi=300#图像分辨率
figsize=(12,8)#绘图尺寸
visualizing.plot_one_neuron_v_s(torch.cat(v_list).numpy(),torch.cat(s_list).numpy(),v_threshold=IF_layer.v_threshold,v_reset=IF_layer.v_reset,figsize=figsize,dpi=dpi)#用于绘制膜电位脉冲图像的函数
plt.show()

在这里插入图片描述

二、图数据库

1.图数据库的概念

图数据库不是存储图像的数据库，而是利用数据结构中的图(graph)，进行语义操作的非关系型数据库。它使用顶点、边和属性来表示和存储数据，支持数据的增删改查操作。

在图数据库中，最主要的组成有两种，结点集和连接结点的关系。结点集就是图中一系列结点的集合，比较接近于关系数据库中所最常使用的表，而关系则是图数据库所特有的组成。
图数据库的代表有Neo4j、ArangoDB、Virtuoso、Neptune、JanusGraph、TigerGraph等。
在这里插入图片描述

2.图数据模型

图模型是图数据库表达图数据的抽象模型。目前主流的图模型主要包括资源描述框架（RDF）和属性图两种。

RDF是的表现形式是将一个句子拆分为由主谓宾表示的三元组。用于描述具体的事物及关系。例如:我爱吃阳光玫瑰，在RDF中的表现形式为:(我，爱吃，阳光玫瑰);南宁属于广西，（南宁，属于，广西)。

相较于RDF，目前主流的图数据库选择的图模型是属性图。属性图由点、边、标签和属性组成。开源图数据库 Neo4j 和 JanusGraph 都采用属性图的数据模型。

在这里插入图片描述

3.图数据的储存

图数据库有原生和非原生存储两种存储方式。我们以Neo4j和JanusGraph为例简要说明两种方式。

Neo4j使用原生设计的图存储，将图数据存储在若干不同的存储文件中，每个存储文件包含图特定部分的数据（例如，节点、联系、标签和属性都各自独立的存储），其中常用的存储方式为链表、排序树以及哈希表等。

JanusGraph 使用非原生图存储，将图结构序列化存储到键值对数据库中。也有很多图数据库在存储上直接使用了 NoSQL 数据库，比如键值对存储、文档存储等。

4.图数据库的查询

按照查询范围的递增顺序，面向图数据的查询可以大体分成单点查询、邻居查询、路径遍历、子图匹配和全图分析这几类。

总结

本周学习了SNN和SNN的快速搭建框架spikingjelly，了解了图数据库的概念，存储查询方式和其他特点，目的是为了通过SNN和图数据库来解决当前持续学习所面临的灾难性遗忘问题。