1. Motivation

神经网络对所有特征进行无差别的交叉,在一定程度上忽略了原始特征向量中包含的有价值信息。综合原始特征及交叉特征,让特征交叉的方式更加高效非常重要。

2. Wide&Deep——记忆、泛化能力的综合

1. 记忆能力(Wide)

模型直接学习并利用原始数据中物品或者特征共现频率的能力。表达式如下:
Wide&Deep - 图1
Wide&Deep - 图2

2. 泛化能力(Deep)

模型传递特征的相关性,发掘稀疏甚至从未出现过的稀有特征与标签相关性的能力。(如深度神经网络通过特征的多次自动组合,可以深度发掘数据中潜在的模式,即使是非常稀疏的特征向量输入,也能得到较平稳的推荐概率),公式如下:
Wide&Deep - 图3

2. 综合Wide和Deep

Wide&Deep - 图4

3. Wide&Deep结构

截屏2021-03-20 下午1.47.06.png
Wide&Deep模型
截屏2021-03-20 下午1.47.45.png
Wide&Deep模型详细结构