习题4.1

  用极大似然估计法推出朴素贝叶斯法中的概率估计公式(4.8)及公式 (4.9)。


解答:

第1步:证明公式(4.8):习题4.1 - 图1

由于朴素贝叶斯法假设 Y 是定义在输出空间习题4.1 - 图2上的随机变量,因此可以定义习题4.1 - 图3概率为 p。
习题4.1 - 图4,得出似然函数:
习题4.1 - 图5
使用微分求极值,两边同时对 p求微分:
习题4.1 - 图6

可求解得到习题4.1 - 图7

显然习题4.1 - 图8,公式(4.8)得证。

第2步:证明公式(4.9):习题4.1 - 图9
习题4.1 - 图10,令习题4.1 - 图11,得出似然函数:
习题4.1 - 图12
使用微分求极值,两边同时对 p求微分:
习题4.1 - 图13

可求解得到习题4.1 - 图14
显然习题4.1 - 图15,公式(4.9)得证。