Ch1 概率论基础知识

1. 常用性质

2. 等可能概型

等可能概型适用于”有限个等可能性结果的随机试验” 古典概率

超几何概率
假设袋子中N个球,m个红球,其余白球,则以此取出n个求,从中恰好取出k个红球的概率为

几何概率
把作为一般的欧氏区域,m(A)作为A的度量(一维下长度,二维下面接,三维下体积…),可得几何概型下时间A的概率

3. 条件概率和三个派生公式

条件概率
AB为同一试验下两事件,如下表示了事件B发生情况下A发生的条件概率

乘法公式

全概率公式
设为样本空间的一个完备事件组,则

贝叶斯公式
设为样本空间的一个完备事件组,则

4. 事件独立性和伯努利概型

事件独立
事件A和B之间的发生并不影响另一个的发生时,二者独立,即

事件独立和事件互斥是不同概念,前者针对概率,后者针对事件:互斥一定不独立,独立一定不互斥
伯努利概型
n重独立试验中,每次试验结果只有”发生”和”不发生”两种,这样的试验为n重伯努利试验,对应伯努利概型 二项概率
n次伯努利试验中,假设,则A恰好发生k次的概率为

因为上式恰为二项式展开式的第k+1项,因此称为二项概率
多项概率
n次伯努利试验中,每次试验结果是,对应发生概率为,则在n次试验中各发生的概率为

5. 扩展:贝叶斯原理

参考链接: 小白之通俗易懂的贝叶斯定理（Bayes’ Theorem） - 地平线下面的土豆的文章 - 知乎
贝叶斯原理是机器学习和数据科学中的基石,是关于随机事件A和B的条件概率的一则定理

• P(A|B)是已知B发生后A的条件概率,由于得自B的取值也被称为A的后验概率(Posterior)
• P(A)是A的先验概率(Prior)或者边缘概率,因为他不考虑任何B方面的因素
• P(B|A)/P(B)有时称为标准似然度(standardised likelihood)

按照术语,贝叶斯定理表述为

通俗理解:
先验概率是我们对A事件发生概率的初始主观判断,我们未曾考虑事件B可以带来的新信息;而标准似然度就是一个”可能性函数”,作为一个调整因子,事件B传输了新的信息,就发生调整,使得先验概率更接近真实概率

• 如果”可能性函数”P(B|A)/P(B)>1,意味着”先验概率”被增强,事件A的发生的可能性变大；
• 如果”可能性函数”=1,意味着B事件无助于判断事件A的可能性；
• 如果”可能性函数”<1,意味着”先验概率”被削弱,事件A的可能性变小

直接使用上面链接知乎答主总结的:

贝叶斯的底层思想就是： 如果我能掌握一个事情的全部信息，我当然能计算出一个客观概率（古典概率、正向概率） 可是生活中绝大多数决策面临的信息都是不全的，我们手中只有有限的信息。既然无法得到全面的信息，我们就在信息有限的情况下，尽可能做出一个好的预测。也就是，在主观判断的基础上，可以先估计一个值（先验概率），然后根据观察的新信息不断修正(可能性函数)

6. 例题

贝叶斯原理:假阳性问题

一种检验50岁以上人群关节炎患病情况的检验法: (1)对于确实患有关节炎的病人有85%的概率检验结果为患有关节炎 (2)对于未患有关节炎的病人有4%的概率检验结果认为患有关节炎 已知50以上人群有10%概率患有关节炎,求一个检验者经检验没有关节炎,实际患有关节炎的概率

:::info :::