一、基本方法


朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法

先验概率分布:4.1 朴素贝叶斯法的学习与分类 - 图1
条件概率分布:4.1 朴素贝叶斯法的学习与分类 - 图2

条件概率分布4.1 朴素贝叶斯法的学习与分类 - 图3有指数级数量的参数,难以估计

朴素贝叶斯法做了条件独立性的假设,使得:
4.1 朴素贝叶斯法的学习与分类 - 图4
该假设的含义为对已知类别,假设所有的属性相互独立。这一假设会牺牲一定的准确率。

后验概率分布:
4.1 朴素贝叶斯法的学习与分类 - 图5
朴素贝叶斯分类器即可表示为:
4.1 朴素贝叶斯法的学习与分类 - 图6

二、后验概率最大化的含义

后验概率最大化等价于期望风险最小化,这也是朴素贝叶斯的决策依据。