一、问题与现状

本文尝试简化GCN的设计,使得算法更加简洁,更适用于推荐系统。
GCN的最本质部分是:邻居聚合。

二、介绍

Neural Graph Collaborative Filtering (NGCF)[1] 从GCN网络中获取灵感而提出的CF算法,服从同样的传播规则:feature transformation、neighborhood aggregation、nonlinear activation。

本文认为NGCF的设计过于笨重,大部分操作直接从GCN中借鉴过来而没有做任何修改。
给点ID的Emb作为输入,执行多层的非线性变化是DNN取得成功的关键。

作者通过实验论证了特征变换、非线性激活函数 对 NGCF的有效性没有任何贡献。

三、前期实验

image.png
[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图2 表示经过K层传播的用户 u的emb,[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图3表示经过K层传播的item i的emb。[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图4 表示与用户u有关联的item,[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图5表示与item i有关联的用户,通过层传播得到L+1个emb向量来描述用户[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图6[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图7,把这些向量concat起来就是用户、item的最终表征。可以看出NGCF 和标准的GCN 区别不大。

NGCF进行探索

为了实验方便,采用求和的方式聚合L+1个emb向量来得到最终向量。
NGCF-f: 去除特征变换,即去掉[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图8[2020-轻量级GCN-何向南]LightGCN: Simplifying and Powering Graph Convolution Network for RS - 图9
NGCF-n:去除激活函数。
NGCF-fn:特征变换、激活函数都去掉。
image.png
从实验结果可以看出:
1、增加特征变换有负向影响,NGCF、NGCF-n实验都可以看出。2、同时增加非线性变化、特征变换有轻微影响,只增加非线性变化,负向较大。3、特征变换和非线性变化移除后,实验正向。

四、LightGCN

去掉 上述 无效部分,简化后的模型如下:
image.pngimage.png

参考文献

1、Xiang Wang, Xiangnan He, Meng Wang, Fuli Feng, and Tat-Seng Chua. 2019. Neural Graph Collaborative Filtering. In SIGIR. 165–174.