当前位置：首页 > news >正文

内积相似系数——内积度量相似系数

news 来源：原创 2025/7/5 22:11:24

内积与相似系数

内积（Inner Product）

内积（Inner Product），也称为点积（Dot Product）或标量积，两个向量点积的结果是一个标量（通常是实数或复数）。
内积&点积

欧几里得空间中的内积

在 $\mathbb{R}^n$ （ $n$ 维欧几里得空间）中，设两个向量 $\boldsymbol{x} = (x_1, x_2, \cdots, x_n)$ 和 $\boldsymbol{y} = (y_1, y_2, \cdots, y_n)$ ，它们的内积定义为：

$\langle \boldsymbol{x}, \boldsymbol{y} \rangle = \sum_{i=1}^{n} x_i y_i = x_1 y_1 + x_2 y_2 + \cdots + x_n y_n$

或者表示为

$\boldsymbol{x} \cdot \boldsymbol{y} = \sum_{i=1}^{n} x_i y_i = x_1 y_1 + x_2 y_2 + \cdots + x_n y_n$

这个定义给出了两个向量的分量相乘然后求和的结果。

内积是两个向量之间的一种运算，其结果是一个实数。当 $\boldsymbol{x}$ 和 $\boldsymbol{y}$ 都是列向量时，内积可以表示为：

$\langle \boldsymbol{x}, \boldsymbol{y} \rangle = \boldsymbol{x}^{\mathsf{T}} \boldsymbol{y}$

其中， $\boldsymbol{x}^{\mathsf{T}}$ 表示向量 $\boldsymbol{x}$ 的转置。

内积的性质

内积满足以下基本性质：

对称性：对于实向量空间， $\boldsymbol{x} \cdot \boldsymbol{y} = \boldsymbol{y} \cdot \boldsymbol{x}$ ；对于复向量空间， $\langle \boldsymbol{x}, \boldsymbol{y} \rangle = \overline{\langle \boldsymbol{y}, \boldsymbol{x} \rangle}$ 。
线性：对于所有向量 $\boldsymbol{x}, \boldsymbol{y}, \mathbf{c}$ 和所有标量 $\alpha$ ，有 $\boldsymbol{x} \cdot (\boldsymbol{y} + \mathbf{c}) = \boldsymbol{x} \cdot \boldsymbol{y} + \boldsymbol{x} \cdot \mathbf{c}$ 和 $\boldsymbol{x} \cdot (\alpha \boldsymbol{y}) = \alpha (\boldsymbol{x} \cdot \boldsymbol{y})$ 。
正定性：对于任意非零向量 $\boldsymbol{x}$ ，有 $\boldsymbol{x} \cdot \boldsymbol{x} > 0$ ；如果 $\boldsymbol{x} = 0$ ，则 $\boldsymbol{x} \cdot \boldsymbol{x} = 0$ 。

内积在许多方面都有应用，比如计算向量之间的角度、确定向量是否正交、计算投影等。在几何上，两个向量的内积等于它们的模长乘积与夹角余弦的乘积，即：

$\boldsymbol{x} \cdot \boldsymbol{y} = \| \boldsymbol{x} \| \| \boldsymbol{y} \| \cos\varphi$

这里 $\| \boldsymbol{x} \|$ 和 $\| \boldsymbol{y} \|$ 分别是向量 $\boldsymbol{x}$ 和 $\boldsymbol{y}$ 的长度（模）， $\varphi$ 是它们之间的夹角。

相似系数（Similarity Coefficient）

在机器学习中，内积经常用来衡量特征向量之间的相似性。

余弦相似度：一种常用的相似系数是余弦相似度（Cosine Similarity），它基于两个向量的内积和它们的模长（或范数）来定义。余弦相似度的公式如下：

$\cos\varphi = \frac{\boldsymbol{x} \cdot \boldsymbol{y}}{\|\boldsymbol{x}\| \|\boldsymbol{y}\|}$

这里， $\varphi$ 是向量 $\boldsymbol{x}$ 和 $\boldsymbol{y}$ 之间的夹角， $\|\boldsymbol{x}\|$ 和 $\|\boldsymbol{y}\|$ 分别是向量 $\boldsymbol{x}$ 和 $\boldsymbol{y}$ 的模长。

当向量归一化为单位向量时，两个向量的内积即计算它们之间的夹角余弦。根据柯西-施瓦茨不等式，余弦相似度的取值范围是 $[- 1, 1]$ ， $0$ 表示正交（即不相关）。

皮尔逊相关系数：另一种基于内积的相似性度量是皮尔逊相关系数（Pearson Correlation Coefficient）：

$r_{xy} = \frac {{\boldsymbol x} - \bar{x}}{\lVert {\boldsymbol x}- \bar{x}\rVert }\cdot \frac {{\boldsymbol y} - \bar{y}} { \lVert {\boldsymbol y}- \bar{y} \rVert} = \frac{\sum\limits_{i=1}^{n}(x_i - \bar{x})(y_i - \bar{y})}{\sqrt{\sum\limits_{i=1}^{n}(x_i - \bar{x})^2 \sum\limits_{i=1}^{n}(y_i - \bar{y})^2}}$

这里， $x_i$ 和 $y_i$ 是向量的元素， $\bar{x}$ 和 $\bar{y}$ 是相应的均值。

皮尔逊相关系数是内积在标准化向量上的应用。它考虑了变量的标准化（去除了尺度影响）。

内积与相似系数

内积（Inner Product）

欧几里得空间中的内积

内积的性质

相似系数（Similarity Coefficient）

相关文章：