参考

问题描述

对ctr排序结果进行微调，考虑结果列表中item-item的相互作用，并且这种作用是user个性化的。

算法亮点

image.png

1. 模型组件

  • 个性化PV。学习user个性化的item-item相互作用。排序任务越难，个性化重排作用越大。
  • item特征X。学习item-item相互作用。
  • 位置编码。学习序列信息。

2. 不同组件的贡献

模型组件 重要性 贡献大小
个性化PV 非常重要 线上线下效果见表1。
考虑了个性化PV后，GMV增长了6.65%。
不考虑时只增长0.36%，基本没啥用。
位置编码 重要 作用见表2。去掉后结果变差。
transformer层数 有点用 作用见表2。最佳层数为4。
直连层 无用 作用见表2。梯度消失问题较小。
dropout 无用 作用见表2。过拟合问题较小。
注意力头数 无用 作用见表2。序列不够长，信息单一，多头注意力增长不大。

表1：电商数据离线和线上结果
image.png

表2：transformer不同组件的贡献分析
image.png

改进点

  • 使用类似快手的门控网络，给出更user个性化的item-item相互作用？