十一、机器学习模型的可解释性（Explainable Machine Learning）

目的：让机器告诉我们为什么能得出正确的答案（例如：银行训练的模型判断是否给某用户贷款，需要给出理由）。

1、模型

Local Explanation：输入一张图片，机器解释输出结果的理由。
Global Explanation：无输入，机器解释一类输入的特征。

2、Local Explanation

计算输入向量中每一维的重要性，以来代表该维的重要性，从而得到图像识别的理由（区域）。

工作过程：

3、Global Explanation

不是对特定的某一输入进行分析，而是把训练好的模型拿出来，让其描述某一分类结果应具有的特征。