概率论基础知识补充

概率论基础知识

• 样本概率：P(x)表示样本x出现的概率，也就是在全体样本中出现的概率
• 先验概率：对于多类问题，类别状态${\omega }_i$出现的概率,$P\left({\omega }_i\right)$
• 条件概率：在类别 ${\omega }_l$中，样本$x$出现的概率，称为条件概率 $P(\mathbf{x}|{\omega }_i)$
• 后验概率：对于样本$x$,其来自于类别 ${\omega }_l$的概率， 称为后验概率 $P({\omega }_i|\mathbf{x})$
• 全概率：$P(A)={\sum }_{i=1}^{n}P(A,B_i)$又因为条件概率公式，可进一步$P(A)={\sum }_{i=1}^{n}P(A|B_i)P(B_i)$

全概率公式的意义在于，当某一事件的概率难以求得时，可转化为在一系列条件下发生概率的和

条件概率

P(A|B)=P(AB)/P(B) = $\frac{P(B|A)?P(A)}{P(B)}$
乘法公式

• 若P(B)>0,则P(AB) = P(B)P(A|B)
• 若P(A)>0,则P(AB) = P(A)P(B|A)

全概率公式
$$P(A)=\sum _{i=1}^{n}P(A|B_i)P(B_i)$$

直接计算P(A)比较困难，则根据B样本空间对事件A进行分割求解
贝叶斯公式
定义：若事件$B_1,B_2......B_n$是样本空间$\alpha$的一组分割，且P(A)>0,P($B_i$)>0,则
$$P(B_i|A)=\frac{P(A{B}_i)}{P(A)}=\frac{P(B_i)P(A|B_i)}{P(A)}=\frac{P(B_i)P(A|B_i))}{{\sum }_{j=1}^{n}P(B_j)P(A|B_j)}$$
$P(B_i)$是先验概率 $P(B_i|A)$是后验概率