当前位置：首页 > news >正文

【每天一个知识点】点乘（Dot Product）

news 来源：原创 2025/6/18 1:33:24

点乘（Dot Product）在很多机器学习和图神经网络（GNN）中都有广泛应用，尤其在图结构重构中，它通常用来衡量节点之间的相似性或者关联性。让我们逐步深入理解点乘，尤其是在图结构重构中的应用。

点乘是向量之间的一种数学运算，也叫做内积。两个向量 a和 b的点乘可以表示为：

a⋅b=a1⋅b1+a2⋅b2+⋯+an⋅bn

点乘的结果是一个标量（单一数值），而且它表示的是两个向量之间的相关性。如果两者方向相近，则点乘值较大；如果方向相反，则点乘值较小。

图神经网络（GNN）中的图结构重构通常指的是给定节点嵌入表示，预测图中的边（即预测节点之间是否相连）。这种方法可以通过节点嵌入的点乘来衡量节点之间的相似性。

假设你有一个图 G=(V,E)，其中 V是节点集合，E是边集合。通过图嵌入（比如图神经网络中的节点嵌入），每个节点 v∈V会有一个低维向量表示 zv。图重构的任务通常是根据这些节点的嵌入，来预测图中是否存在边。

假设你希望预测图中的一条边 (i,j)是否存在。每个节点 i和 j 都有自己的嵌入向量 zi 和 zj，点乘 zi⊤zj 就可以作为这两者相似度的度量。

A^ij=σ(zi⊤zj)

其中，σ 是一个激活函数（如 sigmoid 函数），它将点乘结果映射到 [0, 1] 的概率值。这个值可以理解为节点 i 和 j 之间存在边的概率。

图重构的目标：
通过最小化实际邻接矩阵 A 和预测矩阵 A^之间的差异（比如通过交叉熵损失函数），模型就能够学习到适合图结构的节点嵌入，从而预测哪些节点应该相连。

假设我们有一个简单的社交网络图，包括4个节点：A、B、C、D。通过图神经网络（例如 GCN 或 GAT）训练后，每个节点将拥有一个嵌入向量，比如：

zA=[0.1,0.2],zB=[0.2,0.3],zC=[0.5,0.4],zD=[0.7,0.8]

如果你想预测 A 和 B 之间是否有边，你可以计算它们嵌入向量的点乘：

zA⊤zB=(0.1×0.2)+(0.2×0.3)=0.02+0.06=0.08

然后使用 sigmoid 函数映射到 [0, 1]，假设输出为 σ(0.08)=0.52，表示 A 和 B 之间有边的概率为 52%。

在图结构重构中，点乘用于衡量节点嵌入向量之间的相似性。通过计算节点对之间的点乘，可以预测它们是否应该在图中有连接。这种方法通常与图神经网络中的嵌入学习方法相结合，帮助模型在图中自动发现潜在的连接关系。

点乘在图重构中的应用，正是通过度量节点的相似性并预测边的存在。