1.7 生成模型与判别模型

监督学习方法可分为生成方法(generative approach)与判别方法(discriminative approach)

生成方法

生成方法有数据学习联合概率分布，然后求出条件概率分布作为预测的模型，即生成模型

• 收敛速度快, 当样本容量增加时, 学到的模型可以更快收敛到真实模型
• 当存在隐变量时仍可以用
• 典型的生成模型有朴素贝叶斯和隐马尔科夫模型

  判别方法

  判别方法直接学习决策函数或者条件概率分布作为预测模型。
  包括：k近邻法、感知机、决策树、逻辑斯底回归模型、最大熵模型、支持向量机、提升方法和条件随机场