解释方法的分类

  1. Intrinsic iterpretable models：模型本身具有可解释性，主要原因是模型结构复杂度低。例如：浅决策树、稀疏的线性模型。<br />    post hoc 方法：模型训练完后，用于模型解释的方法，如：特征排列法。post hoc方法也可以用于 具有解释性的模型上。

解释性方法的粗略分类

  • Feature summary statistic，特征概要统计。模型提供每个特征的概要性统计说明。如：给每个特征返回一个数值，gbdt的特征重要性；