仅通过对用户-物品关系进行建模，经典推荐系统在解决数据稀疏性和冷启动问题方面面临挑战。一个基本的方向是吸收和理解其他的异构关系，例如用户-用户和物品-物品关系，因为每个用户-物品交互通常会受到其他用户和物品的影响，而其他用户和物品会形成用户/物品的影响上下文。这引发了重要但具有挑战性的问题，包括建模异构关系，交互以及在有影响的上下文中来自用户/物品的影响力。为此，我们设计了影响上下文聚合单元（Influential-Context Aggregation Units, ICAU），以将给定上下文内的用户-用户/物品-物品关系聚合为有影响的上下文embedding。因此，我们提出了一种基于ICAU的异构关系嵌入式推荐系统（HERS），以通过考虑用户-用户和物品-物品的影响来建模和解释用户-物品交互的潜在动机。在两个真实世界的数据集上进行的实验表明，HERS进行的推荐质量得到了极大改善，并且在处理冷启动问题方面具有优越性。此外，我们在解释推荐结果时展示了建模有影响力的上下文的可解释性。

一、简要信息

序号 属性 值
1 论文模型 ICAU-HERS
2 所属领域 推荐系统
3 研究内容 cold start; heterogeneous relations; Heterogeneous relations-Embedded Recommender System
4 核心内容 冷启动问题
5 论文PDF 2019AAAI-HERS Modeling influential contexts with heterogeneous relations for sparse and cold-start recommendation.pdf
6 GitHub代码 https://github.com/rainmilk/aaai19hers

二、研究背景

仅通过对用户-物品关系进行建模，经典推荐系统在解决数据稀疏性和冷启动问题方面面临挑战。一个基本的方向是吸收和理解其他的异构关系，例如用户-用户和物品-物品关系，因为每个用户-物品交互通常会受到其他用户和物品的影响，而其他用户和物品会形成用户/物品的影响上下文。推荐系统（RS）本质上嵌入了异构关系：用户-用户耦合，物品-物品耦合和用户-物品耦合（Cao 2015），我们称其为异构关系嵌入式推荐系统（Heterogeneous relations-Embedded Recommender System，HERS）。人们日益认识到，对这样的多种异构关系进行建模对于理解RS的非数据独立同分布性质和特征以及应对诸如基于社交，基于群体，基于上下文，跨域，稀疏，冷启动，动态和深度推荐的一些挑战。因此，作者构建了一个HERS系统来解决冷启动问题。

三、评价指标

MAP@5、MAP@20
nDCG@5、nDCG@20

四、传统方法

仅通过对用户-物品关系进行建模，经典推荐系统在解决数据稀疏性和冷启动问题方面面临挑战

五、主要思想

不仅对用户-物品关系进行建模，还对用户-用户和物品-物品关系进行建模。
作者设计了影响上下文聚合单元（ICAU），将上下文中所有用户/项目的影响聚合到一个embedding中，即影响上下文嵌入向量（ICE）。以ICAU为基础，我们构建了一个HERS，该HERS在进行推荐时会同时考虑用户和物品的影响环境。
image.png
几个步骤：
User’s Influential Context Embedding
The Second Level ICAUs
学习一阶邻居信息，生成image.png
The First Level ICAU
利用image.png来生成image.png
Item’s Influential Context Embedding
使用ICAU学习ICE项目
User-item Interaction Ranking
Remark for Scoring Model
image.png
Influential-context Aggregation Unit结构图

六、实验评估

数据集

Delicious
Lastfm
image.png

Baseline

  • BPR-MF (Rendle et al. 2009): it uses the BPR-based optimization on the user-item relation by MF.
  • SoRec (Ma et al. 2008): it jointly factorizes the socialrelation matrix and a user-item interaction matrix.
  • SoicalMF (Jamali and Ester 2010): it adds regularization into MF according to social information.
  • SoReg (Ma et al. 2011): it leverages social relationships to regularize the user’s latent factors.
  • CMF (Singh and Gordon 2008): it is adopted to co-factorize the user-user, user-item and item-item relations.
  • FM (Rendle 2012): it embeds features into a latent space and models the interactions between each pair of features.
  • We integrate user-user, user-item, item-item relations as the features.
  • NFM (He and Chua 2017): a deep neural network-based
  • FM with multiple hidden layers to learn non-linear interactions.

  • ICAU-HERS: ICAU-based HERS proposed in this paper.

    实验结果

    image.png
    总的来看，ICAU-HERS是上述模型中性能最优的。
    从user-user关系来看，BPR-MF更容易遭受数据稀疏性的困扰，因为它无法从社交关系中借用信息。结果，它实现了最差的性能。相比之下，其他方法也可以从用户社交网络中的信息中受益。特别是，ICAU-HERS的性能优于其他所有方法，这要感谢ICAU精确地权衡了来自不同用户的影响并汇总了高阶影响。
    从item-item关系来看，CMF，FM和NFM考虑了项目-项目关系，这使得推荐比仅使用社会关系方法更有效。与基于MF和FM的方法相比，ICAU-HERS证明了其在将异构关系推荐数据与影响聚合模型进行集成方面的优势。
    在冷启动问题上的实验结果如下图：
    image.png
    图4展示了在用户冷启动问题上的实验结果，ICAU-HERS性能最优。这是因为，即使没有观察到历史用户选择，用户的ICE仍将来自邻居的信息嵌入到有影响的上下文中。
    图5展示了在物品冷启动问题上的实验结果，同样地，ICAU-HERS性能最优。请注意，ICAU-HERS在冷启动项目上的性能不如冷启动用户显着。这可以解释为其他用户的影响大于相关项目对用户的项目选择的影响。但是，当没有选择可用于新项目时，嵌入的有影响力的项目上下文仍然可以提供有用的信息。
    可解释性
    image.png
    这些有影响的上下文可以提供对目标用户和目标项目如何受有影响的用户和项目的影响以形成连接的解释。

    七、Related Work

    主要回顾在RS中以某种方式结合了用户-用户，用户-项目和项目-项目耦合关系的工作（Cao 2016）。

  • 关于用户-用户关系，传统的RS通过扩展CF模型来考虑RS中的社会关系：

  • 通过对社交网络关系进行建模（Tang，Hu和Liu 2013）
  • SoRec（Ma等，2008）来共同分解用户项目矩阵和用户-用户社会关系矩阵，通过共享公共用户隐因子矩阵
  • SocialMF（Jamali and Ester 2010）和SoReg（Ma et al。2011）可以通过来规范目标用户的用户潜在因子向量他们的信任者的用户潜在因子向量。

但是，社交RS仅包含来自用户方的其他信息，而忽略了项目之间的相关性。最近的几篇著作共同为多重关系建模。

  • 集体矩阵分解（CMF）（Singh and Gordon 2008）用耦合矩阵的集合表示了这些关系，并沿耦合维度共享了潜在因子。然后，CMF对这些耦合矩阵进行协分解以学习潜在因子矩阵。
  • 分解机（FM）（Rendle 2012）通过设计矩阵来表示每对要素之间的交互，以表示多个关系（Rendle 2013）

但是，以上模型假定关系是同质的，但忽略了用户与项目之间以及用户与项目之间的异构交互。这些因式分解方法仅对来自直接邻居的一阶影响建模，而在上下文中未考虑较高阶影响。最近的工作是为显式和隐式用户-用户，项目-项目和用户-项目耦合建模（Cao 2015; 2016）。

  • 耦合矩阵分解（Li，Xu，and Cao 2015）涉及用户耦合和项目耦合到MF。
  • 耦合泊松因子分解（Do and Cao 2018a）将用户/项目元数据及其关系集成到泊松因子分解中，以进行大而稀疏的推荐。
  • 动态矩阵分解mGDMF（Do and Cao 2018b）涉及共轭Gamma-Poisson模型，该模型通过合并元数据影响来有效，高效地建模大量，稀疏和动态的推荐。

深度神经模型也已被纳入RS中

  • （Wang等人2017）将神经协作过滤（NCF）（He等人2017）扩展到跨域社交推荐，以及神经社交协作排名（NSCR）基于NCF的模型（Wang et al.2017）无缝集成了信息领域的用户项交互和社交领域的用户关系。
  • 神经分解机（NFM）通过添加多个隐藏层来学习非线性相互作用，从而扩展了FM与神经网络的连接。
  • CoupledCF（Zhang et al.2018）在推荐深度协作过滤中学习了显式和隐式用户项耦合。

但是，所有这些方法仅对成对交互进行建模，而不对有影响的上下文中的所有影响进行建模。而且，他们不能说出每个用户或每个项目的影响力。

八、其他

其他优点

ICAU是一种通用的影响嵌入模型，除推荐系统外，它还可以应用于具有异构网络的其他域，例如用户组行为分析和生物交互网络。此外，很容易合并每个实体的内容信息以更好地解释影响传播。