【论文阅读】Attentive Collaborative Filtering:

Attentive Collaborative Filtering: Multimedia Recommendation with Item- and Component-Level Attention

Attentive Collaborative Filtering (ACF)、隐式反馈推荐、注意力机制、贝叶斯个性化排序

标题翻译：注意力协同过滤：基于项目和组件级注意力的多媒体推荐
原文地址：点这里

摘要

多媒体内容正主导着当今网络信息。用户与多媒体项目之间的互动通常是二值的隐式反馈（例如照片点赞、视频观看、歌曲下载等），相比显式反馈（如商品评分），这种隐式反馈能以更低的成本、大规模地收集。然而，大多数现有的协同过滤（CF）系统在多媒体推荐场景中并不理想，因为它们忽略了用户与多媒体内容互动中的“隐式性”。我们认为，在多媒体推荐中，存在两层“隐式”——项目层面（item-level）和组件层面（component-level），它们模糊了用户真实的偏好。项目层面隐式性指用户对整个项目（照片、视频、歌曲等）的偏好强度未知；组件层面隐式性指用户对项目内部不同组成部分（例如图像的不同区域、视频的不同帧）的偏好也未知。比如一次“观看”操作既不告诉我们用户到底多喜欢这段视频，也不告诉我们他对视频哪个部分感兴趣。

为了解决这两层隐式反馈带来的挑战，论文提出了一种将**注意力机制（Attention）**引入协同过滤的新框架——Attentive Collaborative Filtering (ACF)。该方法由两个子模块组成：

1. 组件级注意力模块：以任意内容特征提取网络（如用于图像/视频的 CNN）为基础，自动学习为项目中的各个组成部分分配权重，从而挑选出最有信息量的部分；
2. 项目级注意力模块：根据用户和项目的特征，为不同项目分配权重，以建模用户对各项目的真实兴趣强度。

ACF 能无缝集成到经典的隐式反馈 CF 模型（如 BPR、SVD++）中，并可通过随机梯度下降高效训练。实验证明，在 Vine 和 Pinterest 两个真实的多媒体网络服务数据集上，ACF 显著优于现有最先进的 CF 方法。

一、引言

当我们登录多媒体网络服务（例如 YouTube）时，就像其他数十亿用户一样，我们可以随时浏览和分享线上数十亿条内容。同时，随着移动设备的发展，数以百万计的新图片和视频正不断涌入这些网站。以 Snapchat 为例——这是最受欢迎的视频社交应用之一——在您阅读此段文字的过程中，约有 5 万段视频片段被分享，2.4 百万次视频被观看。毫无疑问，日益占据主导地位的网页多媒体内容，需要尤其是基于协同过滤（CF）的现代推荐系统，在高度动态的环境中为用户筛选出海量内容。

协同过滤（CF）通过分析用户之间的关系和项目之间的相互依赖，以发现新的用户–项目关联【21, 23, 37】。在多媒体推荐中，“项目”指用户消费的各种多媒体内容，如视频、照片或歌曲。大多数 CF 系统依赖显式的用户兴趣作为输入，例如商品的星级评分，这提供了显式反馈【19, 25, 38】。然而，在许多应用场景中并不总能获得显式评分。由于多媒体内容的规模庞大且类型多样【15】，多媒体推荐系统中固有的用户–项目交互通常基于隐式反馈，如**视频的“观看”、照片的“点赞”、歌曲的“播放”**等。由于隐式反馈缺少用户不喜欢哪些项目（即负反馈）的直接证据，现有基于隐式反馈的 CF 方法【20, 21, 30】通常侧重于如何将缺失的用户–项目交互纳入偏好建模。但很少有方法深入挖掘用户偏好的“隐式”特征。我们认为，在多媒体推荐中存在两层隐式反馈，这一点在大多数现有 CF 方法中尚未得到充分考虑。

项目层面的隐式反馈（Item-Level Implicit Feedback）。通过追踪用户的消费行为，每位用户都会关联上一组项目（即正向反馈）。然而，这组正反馈的项目并不意味着用户对它们的喜好程度是相同的。这种现象在多媒体服务中尤为普遍，因为大多数此类服务具有社交属性。例如，一些被用户“点赞”的图片可能仅仅是因为拍摄者是朋友，而并非出于用户的真实兴趣。即便是那些确实符合用户兴趣的图片，用户对它们的喜好程度也可能不同。这种无法获取每个项目具体偏好程度的情形，被称为项目层面的隐式性（item-level implicitness）。为了更好地刻画用户的偏好画像，针对项目层面的隐式反馈，需要对不同项目给予不同的“注意力”权重。然而，据我们所知，现有的协同过滤模型通常使用统一权重【23】或预设的启发式权重【21】，因此基于这些固定加权方式得到的邻域上下文，难以有效建模项目层面的隐式反馈。

通俗地说，项目层面的隐式反馈就是：

• 用户给了一批“喜欢”或“看过”的东西，但这些标记并不告诉我们他们到底有多喜欢每一件——有的只是随手点点赞，有的是真心喜欢。

• 举个例子：你在朋友圈里点了好几张朋友的照片“赞”，可你并不一定真正喜欢每一张，也可能只是礼貌或因为对方是好友。

• 换到推荐系统里，就是说系统知道你看过或点过赞的项目，但不知道你对它们的真实偏爱度。所以，为了更准确地推荐，就需要给不同项目分配不同“重要度”——也就是给真正喜欢的项目更高的“注意力”权重，而不是把它们都当成一样。

组件层面的隐式反馈（Component-Level Implicit Feedback）。对多媒体内容的反馈通常只在整体项目层面，而多媒体内容本身往往蕴含多种语义和多个组成部分。我们将组件层面的隐式性定义为无法获得针对各个组件的单独反馈的情形。以一场篮球比赛视频为例，整段视频包含多名球员和丰富的动作。一位用户对该视频的“播放”反馈，不一定意味着他喜欢视频的全部内容，可能只是因为对视频最后展示比赛最终比分的片段感兴趣。因此，与仅把多媒体内容视为整体的传统基于内容的协同过滤方法【4, 12】不同，我们应当建模用户对低层次内容组件的偏好，比如图像中不同位置的特征【39】或视频中各帧的特征【6, 10, 41】。

通俗地说，组件层面的隐式反馈就是：

• 系统知道你看过、听过或点过赞一个多媒体项目（比如一段视频或一张图片），
• 但它不知道你到底是因为哪个“部分”才感兴趣——可能是视频里的某个精彩片段，或者图片里一个小细节，
• 换句话说，就是你对项目整体做了“喜欢”或“播放”，却没有对项目中的各个组成部分（帧、区域、音段等）打标签，系统只能把整段内容一起看，无法针对最吸引你的那部分做出更精准的推荐。

然而，直接对项目层面和组件层面的隐式反馈进行建模以改进推荐并非易事，因为这两层隐式反馈的真实标签（ground truth）是不可得的。为了解决这一问题，我们提出了一种新颖的协同过滤框架——Attentive Collaborative Filtering（ACF），它能够以远程监督的方式，自动为两层隐式反馈分配权重。

ACF 基于潜在因子模型，将用户和项目映射到同一隐空间以便进行直接比较；同时，它结合了邻域模型，通过对用户历史交互项目的加权求和来刻画用户的兴趣画像，其中项目的权重即反映了两层隐式反馈的重要性。

• 项目层面建模（Section 4.2）：我们设计了一个多层神经网络作为加权函数，输入包括用户特征、项目特征及多媒体内容特征，输出项目的注意力权重。
• 组件层面建模（Section 4.3）：多媒体内容特征本身由对项目中多个组件（如图像区域或视频帧）进行加权求和而来；对应的组件注意力模块也是一个多层神经网络，输入为用户特征和组件特征。所有被赋予注意力的组件共同组成了项目的内容特征向量，作为项目层面注意力网络的输入之一。

ACF 可通过随机梯度下降（SGD）在大规模图像和视频的用户–项目交互数据上高效训练（Section 4.4）。我们在代表两类多媒体的真实数据集——Pinterest（图像）和 Vine（视频）上对 ACF 进行了全面评估。实验结果表明，ACF 在各类方法（包括基于 CF 的、基于内容的【28, 35】及混合方法【9, 33】）中均取得了显著领先（Section 5）。

本文贡献总结

• 提出首个专门面向多媒体推荐中的隐式反馈问题、引入注意力机制的协同过滤框架 ACF。
• 针对项目层面与组件层面两种隐式反馈，设计了两套可无缝嵌入任意邻域模型、并可端到端通过 SGD 高效训练的注意力子模块。
• 在两个真实多媒体数据集上的广泛实验证明了 ACF 相较于多种先进隐式反馈 CF 方法的一致性能提升。

二、相关工作

基于隐式反馈的推荐问题也被称为单类别问题（one-class problem）【27】，这是因为缺乏负反馈，系统中通常只存在正向反馈（例如点击、观看等）。除了这些正反馈之外，剩余的数据既包含了真实的负反馈，也可能只是缺失值。因此，仅凭隐式反馈，很难可靠地判断用户到底不喜欢哪些项目。

为了解决负样本缺失的问题，已有若干方法被提出，大致可分为两类：基于采样的方法【20, 27, 30】和基于全数据的方法【21, 23】。前者从缺失数据中随机抽取部分作为负样本进行学习；后者则将所有缺失条目一律视为负反馈。因此，基于采样的方法在效果上通常更佳，而基于全数据的方法则能覆盖更多数据。

传统的全数据方法假设所有未观测到的交互都是负样本，且赋予相同权重【23】。然而，这种做法并不真实，因为未观测到的数据中可能包含“伪负”——其实只是缺失的正例。为此，最近一些工作【21, 27】着重于设计更精细的加权方案，根据对未观测样本是否真正为负例的“置信度”来分配权重。例如，提出了基于用户偏好程度的非均匀加权【27】和基于项目流行度的非均匀加权【21】，它们已被证明比统一权重效果更好。但这种非均匀加权方法的一大局限在于：权重的设定依赖于作者的主观假设，这些假设在真实数据中未必成立。

正如前文所述，大多数现有方法都集中在负反馈的采样或加权方案上，以应对缺乏负反馈的问题，而对于两层正反馈——即项目层面的注意力和组件层面的注意力——关注较少，这两者其实相当于对正向样本进行加权。为弥补正向样本加权的空白，我们提出了一种新颖的注意力机制，能够基于用户–项目交互矩阵及项目内容，自动为正向隐式信号分配权重。

三、预备知识

我们先来定义一些符号：

• 令 $R\in {\mathbb{R}}^{M\times N}$ 为用户–项目交互矩阵，其中 $M$ 是用户数，$N$ 是项目数。
• 矩阵中的第 $(i,j)$ 个元素记作 $R_{ij}$。
• 对于隐式反馈，若用户 $i$ 与项目 $j$ 之间存在交互（例如点击、观看等），则 $R_{ij}=1$；否则 $R_{ij}=0$。
• 我们用集合 $\mathcal{R}=\{(i,j)\mid R_{ij}=1\}$ 表示所有有过交互的用户–项目对。

在隐式反馈的协同过滤任务中，目标是利用已知的 $\mathcal{R}$ 信息，对那些未观测到的 $(i,j)$ 对预测一个分数 ${\hat{R}}_{ij}$，以便进行推荐排序。

3.1 潜在因子模型（Latent Factor Models）

潜在因子模型将用户和项目同时映射到一个共同的低维隐空间中，并通过向量内积来估计用户对项目的偏好得分。我们重点讨论基于对用户–项目评分矩阵进行奇异值分解（SVD）的模型。

• 令用户的隐向量矩阵为

  $$U=[u_1,\dots ,u_M]\in {\mathbb{R}}^{D\times M},$$

  其中 $u_i$ 表示第 $i$ 个用户的 $D$ 维隐向量。

• 令项目的隐向量矩阵为

  $$V=[v_1,\dots ,v_N]\in {\mathbb{R}}^{D\times N},$$

  其中 $v_j$ 表示第 $j$ 个项目的 $D$ 维隐向量，$D\le \min (M,N)$ 是设定的隐特征维度。

用户 $i$ 对项目 $j$ 的预测偏好得分为两者向量的内积：

$${\hat{R}}_{ij}=⟨u_i,v_j⟩=u_i^T{v}_j.$$

模型的目标是通过最小化观测到的评分的正则化平方损失来学习 $U$ 和 $V$：

$$\underset{U,V}{\min }\sum _{(i,j)\in \mathcal{R}}(R_{ij}-{\hat{R}}_{ij}{)}^2\lambda (\Vert U{\Vert }_2^2+\Vert V{\Vert }_2^2),$$

1其中 $\lambda$ 是正则化系数，一般采用 L2 范数以防止过拟合。模型训练完成后，就可以根据预测得分 ${\hat{R}}_{ij}$ 对所有项目进行排序，进而为用户生成推荐列表。

但是，当直接将 SVD 应用于隐式反馈场景时会遇到挑战：未观测到的条目数量非常大，如果不加区分地将它们都当作负样本，会为训练带来大量的“伪负”——本来可能只是未点击或遗漏的正样本。

3.2 贝叶斯个性化排序（BPR）

BPR 是一个著名的框架，用于解决协同过滤中隐式反馈的“隐式”问题【30】。与 SVD 中的逐点（point-wise）学习不同，BPR 针对一个用户和两项物品构建三元组：其中一项是该用户已交互（正例）的项目，另一项则是未交互（负例）的项目。具体地，若用户 $i$ 在交互矩阵 $R$ 中对项目 $j$ 进行了“查看”或其他正向操作，则假设用户 $i$ 更偏好项目 $j$ 而非任意未交互的项目。

BPR 的优化目标基于最大后验估计。结合上述潜在因子模型，常见的 BPR 损失函数为：

$$\underset{U,V}{\min }\sum _{(i,j,k)\in {\mathcal{R}}_B}-\ln \sigma ({\hat{R}}_{ij}-{\hat{R}}_{ik})+\lambda (\Vert U{\Vert }_2^2+\Vert V{\Vert }_2^2),$$

其中

• $\sigma (x)=1/(1+e^{-x})$ 是 logistic sigmoid 函数，
• $\lambda$ 是正则化参数，
• ${\hat{R}}_{ij}=u_i^T{v}_j$ 如前所述，
• ${\mathcal{R}}_B=\{(i,j,k)\mid j\in \mathcal{R}(i)\wedge k\in \mathcal{I}\setminus \mathcal{R}(i)\}$。

这里，$\mathcal{I}$ 表示数据集中所有项目的集合，$\mathcal{R}(i)$ 表示用户 $i$ 曾交互过的项目集合。每个三元组 $(i,j,k)\in {\mathcal{R}}_B$ 表明“用户 $i$ 偏好项目 $j$ 胜过项目 $k$”。由于 BPR 能有效利用未观测的用户–项目反馈进行模型训练，我们在本工作中以 BPR 作为基础学习框架。

四、ACF（注意力协同过滤）

图1

图 1 展示了 ACF 的整体流程。首先，对第 $i$ 位用户，他交互过的一组项目构成了输入集。对于每个项目 $l$：

1. 组件特征提取
   取出该项目的多个组件特征集合 { x l m } \{x_{lm}\} {xlm​}（图中蓝色实心圆），其中 $x_{lm}$ 可以是第 $m$ 个空间位置的图像区域特征【39】，也可以是视频中第 $m$ 帧的帧特征【41】。

2. 组件级注意力
   将用户隐向量 $u_i$ 和每个组件特征 $x_{lm}$ 一同输入组件级注意力子网络，输出该组件的注意力权重 $\beta (i,l,m)$（图中蓝色虚线圆）。通过对所有组件特征做加权求和

   $$x_l=\sum _m\beta (i,l,m)x_{lm}$$

   （图中蓝色实心圆），得到项目 $l$ 的最终内容表示 $x_l$。

3. 项目级注意力
   将用户隐向量 $u_i$、项目隐向量 $v_l$、辅助项目向量 $p_l$ 以及刚得到的内容表示 $x_l$ 一同输入项目级注意力子网络，计算用户 $i$ 对项目 $l$ 的注意力权重 $\alpha (i,l)$（图中绿色虚线方框）。

4. 邻域聚合
   类似地，对所有历史项目做加权求和

   $$\sum _{l\in \mathcal{R}(i)}\alpha (i,l)p_l$$

（图中绿色实心方块），得到用户的邻域表示。

5. 优化训练
   将上述邻域表示与基础用户隐向量 $u_i$ 相加，构成用户的最终表征，并通过随机梯度下降优化 BPR 的成对学习目标（参见式 (5)）。

这两级注意力机制使模型能够自适应地从用户–项目互动和多媒体内容中提取最具信息量的部分，进而提升推荐效果。

4.1 整体框架

ACF 是一个分层的神经网络模型，用于同时在项目层面和组件层面刻画用户的偏好得分。设用户为 $i$，项目为 $l$，项目 $l$ 的第 $m$ 个组件为该项目的一个子部分，我们分别用

• $\alpha (i,l)$ 表示用户 $i$ 对项目 $l$ 的整体偏好程度，
• $\beta (i,l,m)$ 表示用户 $i$ 对项目 $l$ 中第 $m$ 个组件的偏好程度。

为此，ACF 设计了两个注意力子网络：

1. 组件级注意力模块：先对项目的各个组件（如视频帧或图像区域）分配权重，再生成该项目的内容表示；
2. 项目级注意力模块：以生成的内容表示（以及用户和项目本身的特征）为输入，进一步为不同项目分配注意力权重，从而构建对用户的最终表征。

这两个模块协同工作，使模型能够自适应地从“项目 → 组件”两个层次抽取用户的真实偏好信号。

目标函数 除了使用显式参数向量 $u_i$ 来表示每个用户 $i$ 之外，ACF 还根据用户 $i$ 的历史交互项目集合 $\mathcal{R}(i)$ 来对用户进行建模。因此，每个项目 $l$ 有两组隐向量：

• 基本项目向量 $v_l$：作为潜在因子模型中项目本身的表示。
• 辅助项目向量 $p_l$：用于根据用户已经交互的项目集合来刻画用户的兴趣画像。

用户 $i$ 的最终表示由其个人向量 $u_i$ 与加权求和的辅助项目向量共同组成：

$$u_i+\sum _{l\in \mathcal{R}(i)}\alpha (i,l)p_l,$$

其中 $\alpha (i,l)$ 是用户 $i$ 对项目 $l$ 的项目级注意力权重。

ACF 在 BPR（Bayesian Personalized Ranking）的成对学习目标下进行优化，旨在最大化用户对正例项目与负例项目之间的排序差距。其数学形式为：

$$\underset{U,V,P,\Theta }{\min }\sum _{(i,j,k)\in {\mathcal{R}}_B}-\ln \sigma \left(\right(u_i+\sum _{l\in \mathcal{R}(i)}\alpha (i,l)p_l{)}^T{v}_j-(u_i+\sum _{l\in \mathcal{R}(i)}\alpha (i,l)p_l{)}^T{v}_k)+\lambda (\Vert U{\Vert }_2^2+\Vert V{\Vert }_2^2+\Vert P{\Vert }_2^2),$$

• $\mathcal{R}(i)$ 是用户 $i$ 交互过的项目集合；
• $\alpha (i,l)$ 由项目级注意力模块计算，表示用户 $i$ 对项目 $l$ 的偏好权重；
• $p_l$ 是项目 $l$ 的辅助隐向量，用于聚合用户历史项目；
• ${\hat{u}}_i=u_i+{\sum }_{l\in \mathcal{R}(i)}\alpha (i,l)p_l$ 为用户 $i$ 的最终隐表示；
• $(i,j,k)\in {\mathcal{R}}_B$ 表示正例 $j$ 已被 $i$ 交互，负例 $k$ 未被交互；
• $\sigma (x)=1/(1+e^{-x})$ 是 sigmoid 函数；
• $\Theta$ 包含所有注意力网络的参数；
• $\lambda$ 是 L2 正则化系数，作用于 $U,V,P$ 的范数。

组件级注意力也被整合到 $\alpha (i,l)$ 的计算中，从而共同影响用户最终表示和排序优化。

推断（Inference） 在学习得到用户、项目及辅助项目的隐向量 $U$、$V$、$P$ 以及注意力网络参数后，我们可以基于以下预测得分对所有项目进行排序，生成推荐：

$${\hat{R}}_{ij}=(u_i+\sum _{l\in \mathcal{R}(i)}\alpha (i,l)p_l{)}^T{v}_j.$$

也就是说，用户 $i$ 对项目 $j$ 的预测偏好得分 ${\hat{R}}_{ij}$ 就是用户最终隐表示与项目隐向量 $v_j$ 的内积。

---

与邻域模型的关系

我们可以将式 (6) 展开成两部分之和：

$${\hat{R}}_{ij}=\underset{\text{潜在因子模型}}{\underbrace{u_i^T{v}_j}}+\underset{\text{邻域模型}}{\underbrace{\sum _{l\in \mathcal{R}(i)}\alpha (i,l)p_l^T{v}_j}},$$

其中 $p_l^T{v}_j$ 可以看作是项目 $l$ 与项目 $j$ 之间的相似度度量【24】。

• 第一项 $u_i^T{v}_j$ 对应经典的潜在因子模型；

• 第二项 ${\sum }_l\alpha (i,l)p_l^T{v}_j$ 则是邻域模型：用用户历史交互过的项目对目标项目加权求和。

• 当我们将注意力权重 $\alpha (i,l)$ 简化为统一的归一化常数 $\frac{1}{|\mathcal{R}(i)|}$ 时，ACF 退化为 SVD++【25】；

• 若将其换成某种启发式权重函数，则类似于 FISM【24】。

然而，这些方法忽略了多媒体推荐中两层隐式反馈的重要性，固定或预设的权重假设所有历史项目对预测贡献相同。实际上，权重理应高度依赖于用户特征和项目内容，我们将在 4.2 节和 4.3 节详细介绍如何学习自适应的注意力权重。

4.2 项目级注意力（Item-Level Attention）

项目级注意力的目标是从用户历史交互的项目中挑选对其喜好最具代表性的项目，并聚合这些关键项目的表示来刻画用户。给定：

• 用户的基础隐向量 $u_i$，
• 历史项目 $l$ 的隐向量 $v_l$，
• 辅助项目向量 $p_l$，以及
• 项目内容特征 $x_l$（第 4.3 节详述），

我们使用一个两层前馈网络来计算注意力分数 $a(i,l)$：

$$a(i,l)=w_1^T\varphi (W_{1u}{u}_i+W_{1v}{v}_l+W_{1p}{p}_l+W_{1x}{x}_l+b_1)+c_1,$$

其中：

• $W_{1u},W_{1v},W_{1p},W_{1x}$ 以及偏置 $b_1$ 是第一层的参数，
• 向量 $w_1$ 和标量 $c_1$ 是第二层的参数，
• $\varphi (x)=\max (0,x)$ 是 ReLU 激活函数，它比带 $\tanh$ 的单层感知机效果更好。

接着，用 Softmax 对所有历史项目的注意力分数进行归一化，得到项目级注意力权重 $\alpha (i,l)$，它可以理解为项目 $l$ 对用户 $i$ 偏好画像的贡献度：

$$\alpha (i,l)=\frac{\exp (a(i,l))}{{\sum }_{n\in \mathcal{R}(i)}\exp (a(i,n))}.$$

4.3 组件级注意力（Component-Level Attention）

多媒体项目包含丰富且复杂的信息，而不同用户可能对同一项目中的不同部分感兴趣。设项目 $l$ 的组件特征集合为 { x l m } \{x_{lm}\} {xlm​}，集合大小记为 ∣ { x l ∗ } ∣ \bigl|\{x_{l*}\}\bigr| ​{xl∗​} ​，其中 $x_{lm}$ 表示第 $m$ 个组件的特征。与通常采用平均池化【6, 33】来提取统一内容表示的做法不同，组件级注意力的目标是根据用户偏好为各组件分配不同权重，再通过加权求和构建内容表示。

• 注意力打分
  对于用户 $i$、项目 $l$ 的第 $m$ 个组件 $x_{lm}$，其注意力分数由一个两层网络计算：

  $$b(i,l,m)=w_2^T\varphi (W_{2u}{u}_i+W_{2x}{x}_{lm}+b_2)+c_2,$$

  其中 $W_{2u},W_{2x}$ 及偏置 $b_2$ 是第一层参数，向量 $w_2$ 和偏置 $c_2$ 是第二层参数，$\varphi (x)=\max (0,x)$ 是 ReLU 激活。

• 归一化权重
  对所有组件分数做 Softmax 归一化，得到注意力权重：

  β ( i , l , m ) = exp ⁡ ( b ( i , l , m ) ) ∑ n = 1 ∣ { x l ∗ } ∣ exp ⁡ ( b ( i , l , n ) ) . \beta(i,l,m) = \frac{\exp\bigl(b(i,l,m)\bigr)} {\sum_{n=1}^{|\{x_{l*}\}|} \exp\bigl(b(i,l,n)\bigr)}. β(i,l,m)=∑n=1∣{xl∗​}∣​exp(b(i,l,n))exp(b(i,l,m))​.

• 加权求和
  最终，结合用户偏好的组件注意力，计算项目 $l$ 的内容表示：

  x l = ∑ m = 1 ∣ { x l ∗ } ∣ β ( i , l , m ) ⋅ x l m . x_l = \sum_{m=1}^{|\{x_{l*}\}|}\beta(i,l,m)\,\cdot x_{lm}. xl​=m=1∑∣{xl∗​}∣​β(i,l,m)⋅xlm​.

这使得模型能够聚焦于对用户最具吸引力的组件，从而更精确地表达多媒体内容。

4.4 算法

我们提出了一种基于训练三元组自助采样（bootstrap sampling）的随机梯度下降（SGD）算法来优化整个网络。训练流程如算法 1 所示。为简化符号，我们将 ACF 划分为三大子过程：

1. ACFcomp（第 5–7 行）：计算组件级注意力并汇总成内容表示（图像为区域特征，视频为帧特征）。
2. ACFitem（第 4–9 行）：基于内容表示、用户向量和项目向量计算项目级注意力并汇总成邻域表示。
3. BPR-OPT：在第 12 行，根据式 (5) 对所有参数进行反向传播和更新。

我们用 $\Theta$ 表示项目级和组件级注意力网络的所有参数，用 ${\hat{R}}_{ijk}$ 表示 ${\hat{R}}_{ij}-{\hat{R}}_{ik}$。在第 12 行中，按照链式法则计算每个参数的梯度，并沿着负梯度方向更新。每次迭代中，算法随机选取一个训练三元组 $(i,j,k)$，再执行上述三个子过程并更新参数

划分为三大子过程：

1. ACFcomp（第 5–7 行）：计算组件级注意力并汇总成内容表示（图像为区域特征，视频为帧特征）。
2. ACFitem（第 4–9 行）：基于内容表示、用户向量和项目向量计算项目级注意力并汇总成邻域表示。
3. BPR-OPT：在第 12 行，根据式 (5) 对所有参数进行反向传播和更新。

我们用 $\Theta$ 表示项目级和组件级注意力网络的所有参数，用 ${\hat{R}}_{ijk}$ 表示 ${\hat{R}}_{ij}-{\hat{R}}_{ik}$。在第 12 行中，按照链式法则计算每个参数的梯度，并沿着负梯度方向更新。每次迭代中，算法随机选取一个训练三元组 $(i,j,k)$，再执行上述三个子过程并更新参数