一些常用的概率论工具
前置知识
- 概率论基础
1 乘法定理
$$ P(AB)=P(A|B)P(A) $$
2 全概率公式
前提: B_n为完备事件组
完备事件组: n个事件两两互斥, 且它们的并集为事件全集
全概率公式求的是分布在B_i事件中的A事件的概率总和
$$ P(A)=\sum^n_i{P(AB_i)}=\sum^n_i{P(A|B_i)P(B_i)} $$
3 贝叶斯公式
前提: B_n为完备事件组
完备事件组: n个事件两两互斥, 且它们的并集为事件全集
贝叶斯公式可以理解为当一个事件已经发生后(得到了结果出现的概率), 反求事件成因的条件概率
可以将贝叶斯公式记忆为全概率公式(分号下)和乘法定理(分号上)的组合
$$ P(B_i|A)=\frac{P(AB)}{P(A)}=\frac{P(A|B_i)P(B_i)}{\sum^n_{j=i}{P(A|B_j)P(B_j)}} $$
4 期望
期望衡量数据的平均值
对于离散随机变量来说:
$$ E(X)=\sum^{\infty}_{k=1}{x_kp_k} $$
对于连续随机变量来说:
$$ E(X)=\int^{+\infty}_{-\infty}{xf(x)dx} $$
5 方差
方差衡量数据离平均值的偏离度
$$ D(X)=\sum^{\infty}_{k=1}{[x_k-E(X)]^2p_k} $$
6 协方差
协方差衡量数据的相关性程度
$$ Cov(X,Y)=E(XY)-E(X)E(Y) $$
这个数越小代表数据的相关程度越低