概率论

概率 概率公式

条件概率

事件 $\displaystyle{ A }$ 发生的条件下 $\displaystyle{ B }$ 发生的条件概率

$P(B \mid A)={P(AB) \over P(A)}$

事件的独立性

事件 $\displaystyle{ A , B }$ 满足 $\displaystyle{ P \left( A B \right) = P \left( A \right) P \left( B \right) }$，则两事件相互独立

$\displaystyle{ A , B , C }$ 三事件相互独立等价于

$$\begin{aligned} P(AB) &= P(A)P(B) \\ P(AC) &= P(A)P(C) \\ P(BC) &= P(B)P(C) \\ P(ABC) &= P(A)P(B)P(C) \end{aligned}$$

满足前三个称为两两独立

$\displaystyle{ n }$ 个事件相互独立需要 $C_{n}^2+C_{n}^{3}+\cdots+C_{n}^{n}=2^{n}-n-1$ 个等式成立

性质

• $\displaystyle{ A }$ 和 $\displaystyle{ B }$ 独立 $\Leftrightarrow$ $\displaystyle{ A }$ 与 $\overline{B}$ 独立 或 $\overline{A}$ 与 $\displaystyle{ B }$ 独立 或 $\overline{A}$ 与 $\overline{B}$ 独立
• $\displaystyle{ 0 < P \left( A \right) < 1 }$，$\displaystyle{ A }$ 和 $\displaystyle{ B }$ 独立等价于 $P(B \mid A)=P(B)$ 或 $P(B \mid A)=P(B \mid \overline{A})$
• $\displaystyle{ n }$ 个事件相互独立，则必两两独立；反之不成立、
• $\displaystyle{ n }$ 个事件相互独立时，它们的部分事件也是相互独立的

五大概率公式

加法公式 $P(A \cup B)=P(A)+P(B)-P(AB)$

减法公式 $\displaystyle{ P \left( A - B \right) = P \left( A \right) - P \left( A B \right) }$

乘法公式

• 当 $\displaystyle{ P \left( A \right) > 0 }$，$P(AB)=P(A)P(B \mid A)$

• 当 $P(A_{1}A_{2}\cdots A_{n})>0$ 时，

  $P(A_{1}A_{2}\cdots A_{n})=P(A_{1})P(A_{1} \mid A_{2})\cdots P(A_{n} \mid A_{1}A_{2}\cdots A_{n-1})$

全概率公式

设 $B_{1},B_{2},\cdots,B_{n}$ 满足 $\displaystyle\bigcup_{i=1}^{n}B_{i}=\Omega,B_{i}B_{j} \ne \varnothing (i \ne j)$ 且 $P(B_{k}) > 0, k=1,2,\cdots,n$，则对任意事件 $\displaystyle{ A }$ 有

$$P(A) = \sum\limits_{i=1}^{n}P(B_{i})P(A \mid B_{i})$$

称满足 $\displaystyle\bigcup_{i=1}^{n}B_{i}=\Omega,B_{i}B_{j} \ne \varnothing (i \ne j)$ 的 $B_{1},B_{2},\cdots,B_{n}$ 为 $\Omega$ 的一个完备事件组

贝叶斯公式

设 $B_{1},B_{2},\cdots,B_{n}$ 满足 $\displaystyle\bigcup_{i=1}^{n}B_{i}=\Omega,B_{i}B_{j} \ne \varnothing (i \ne j)$ 且 $P(B_{k}) > 0, k=1,2,\cdots,n$，则

$$P(B_{j} \mid A) = {P(B_{j}) P(A \mid B_{j})\over \sum\limits_{i=1}^{n}P(B_{i})P(A \mid B_{i})}$$

古典概型

$$P(A) = {n_{A}\over n}$$

伯努力概型

• 独立重复实验
• $\displaystyle{ n }$ 重伯努力实验

$$X \sim B(n,p)$$ $$\displaystyle{ P \left( X = k \right) = C _{ \left\lbrace n \right\rbrace } ^{ \left\lbrace k \right\rbrace } p ^{ \left\lbrace k \right\rbrace } \left( 1 - p \right) ^{ \left\lbrace n - k \right\rbrace } }$$

随机变量及其概率分布

离散

概率分布

$\displaystyle{ X }$	$\displaystyle{ x _{ \left\lbrace 1 \right\rbrace } }$	$\displaystyle{ x _{ \left\lbrace 2 \right\rbrace } }$	$\cdots$	$\displaystyle{ x _{ \left\lbrace n \right\rbrace } }$	$\cdots$
P	$\displaystyle{ p _{ 1 } }$	$\displaystyle{ p _{ \left\lbrace 2 \right\rbrace } }$	$\cdots$	$\displaystyle{ p _{ \left\lbrace n \right\rbrace } }$	$\cdots$

分布函数

$$F(x)=P\{X \leqslant x\}, -\infty < x < + \infty$$

分布函数的性质

• $0 \leqslant F(x) \leqslant 1, F(- \infty)=0,F(+\infty)=1$
• 单调不减
• 右连续
• 对任意 $\displaystyle{ x _{ \left\lbrace 1 \right\rbrace } < x _{ \left\lbrace 2 \right\rbrace } }$，有 $P\{x_{1}< X \leqslant x_{2}\}=F(x_{2})-F(x_{1})$
• 对任意 $\displaystyle{ x }$，$\displaystyle{ P \left( X = x \right) = F \left( x \right) - F \left( x - 0 \right) }$

连续

如果对随机变量 $\displaystyle{ X }$ 的分布函数 $\displaystyle{ F \left( x \right) }$，存在一个非负可积函数 $\displaystyle{ f \left( x \right) }$，使得任意实数 $\displaystyle{ x }$，有

$F(x)=\int_{-\infty}^{x}f(t)\mathrm{d}t, -\infty < x < +\infty$

称 $\displaystyle{ X }$ 为连续型随机变量，$\displaystyle{ f \left( x \right) }$ 称为 $\displaystyle{ X }$ 的概率密度

概率密度 $\displaystyle{ f \left( x \right) }$ 的性质

• $f(x) \geqslant 0$
• $\displaystyle\int_{-\infty}^{+\infty}f(x)\mathrm{d}x=1$
• 对 $\displaystyle{ x _{ 1 } < x _{ 2 } }$，有 $P\{x_{1}<X \leqslant x_{2}\}=\displaystyle\int_{x_{1} }^{x_{2} }f(t)\mathrm{d}t$
• 在 $\displaystyle{ f \left( x \right) }$ 的连续点处有 $\displaystyle{ F ^{\prime} \left( x \right) = f \left( x \right) }$

常用分布

二项分布

$\displaystyle{ X }$	0	1
P	$\displaystyle{ 1 - p }$	$\displaystyle{ p }$

$$X \sim B(1,p)$$

几何分布

酒鬼有放回的拿钥匙，试了前 $\displaystyle{ k - 1 }$ 次都失败了，第 $\displaystyle{ k }$ 次成功

$$\displaystyle{ P \left\lbrace X = k \right\rbrace = p q ^{ k - 1 } }$$

超几何分布

$\displaystyle{ N }$ 件产品中含有 $\displaystyle{ M }$ 件次品，从中任意抽取 $\displaystyle{ n }$ 件，$\displaystyle{ X }$ 为抽取的产品中次品数量

$$P\{X=k\}={C_{M}^{k} C_{N-M}^{n-k} \over C_{N}^{n} }, k=l_{1,}\cdots, l_{2}$$

其中，$l_{1}=\max(0, n-N+M)$，$l_{2}=\min(M, n)$

泊松分布

$$X \sim P(\lambda)$$ $$P\{X=k\}={\lambda^{k} \over k!} e ^{-\lambda}$$

泊松定理

在伯努力实验中，$\displaystyle{ p _{ n } }$ 代表事件 $\displaystyle{ A }$ 在一次实验中出现的概率，它与实验总数有关，且随 $\displaystyle{ n }$ 增大，$\displaystyle{ p _{ n } }$ 减小，如果 $\displaystyle \lim_{n \to \infty} np_{n}=\lambda$，则出现 $\displaystyle{ k }$ 次 $\displaystyle{ A }$ 发生的概率为

$$\lim_{n \to \infty}C_{n}^{k} p_{n}^{k}(1-p_{n})^{n-k} = {\lambda^{k} \over k!} e^{-\lambda}$$

当 $\displaystyle{ n }$ 较大，$\displaystyle{ p }$ 较小，$\displaystyle{ n p }$ 不太大，这时有近似公式

$$C_{n}^{k} p_{n}^{k}(1-p_{n})^{n-k} \approx {(np)^{k} \over k!} e^{-np}$$

均匀分布

$$X \sim U[a, b]$$ $$f(x) = \begin{cases} \displaystyle{1 \over b-a}, & a \leqslant x \leqslant b \\ 0, & \text{else} \end{cases}$$

指数分布

$\lambda > 0$

$$X \sim e(\lambda)$$ $$\begin{aligned} f(x) &= \begin{cases} \lambda e^{-\lambda x}, & x > 0 \\ 0, & x \leqslant 0 \end{cases} \\ F(x) &= \begin{cases} 1-e^{-\lambda x}, &x>0 \\ 0, &x \leqslant 0 \end{cases} \end{aligned}$$

指数分布具有无记忆性

正太态分布

$$X \sim N(\mu, \sigma^{2})$$ $$\displaystyle{ \begin{aligned}f \left( x \right) & = \frac{ 1 }{ \sqrt{ 2 \pi } \sigma } e ^{ - \frac{ \left( x - \mu \right) ^{ 2 } }{ 2 \sigma ^{ 2 } } } , - \infty < x < + \infty \\ F \left( x \right) & = \frac{ 1 }{ \sqrt{ 2 \pi } \sigma } \int _{ - \infty } ^{ x } e ^{ - \frac{ \left( t - \mu \right) ^{ 2 } }{ 2 \sigma ^{ 2 } } } {\text{d}t} , - \infty < x < + \infty\end{aligned} }$$

标准正态分布

$$\displaystyle{ \begin{aligned}\phi \left( x \right) & = \frac{ 1 }{ \sqrt{ 2 \pi } } e ^{ - \frac{ x ^{ 2 } }{ 2 } } , - \infty < x < + \infty \\ \Phi \left( x \right) & = \frac{ 1 }{ \sqrt{ 2 \pi } } \int _{ - \infty } ^{ x } e ^{ - \frac{ t ^{ 2 } }{ 2 } } {\text{d}t} , - \infty < x < + \infty\end{aligned} }$$

随机变量函数的分布

$\displaystyle{ X }$ 是随机变量，其函数 $\displaystyle{ Y = g \left( X \right) }$ 也是随机变量

• 离散型运算时，只需两次代入即可
• 连续型，$\displaystyle{ X }$ 的概率密度函数为 $\displaystyle{ f _{ X } \left( x \right) }$，$\displaystyle{ Y }$ 也是连续型随机变量，其概率密度为 $\displaystyle{ f _{ Y } \left( y \right) }$，需要用以下两种方法运算

公式法

$\displaystyle{ y = g \left( x \right) }$ 是单调函数，导数不为零的可导函数，$\displaystyle{ h \left( y \right) }$ 为它的反函数，则

$$f_{Y}(y) = \begin{cases} |h'(y)| f_{X}(h(y)), & \alpha < y < \beta \\ 0, & \text{else} \end{cases}$$

定义法

先求分布函数 $\displaystyle{ F _{ Y } \left( y \right) }$

$$F_{Y}(y) =P(Y \leqslant y) = P(g(X) \leqslant y) =\underset{g(x)\leqslant y}{\int}f_{X}(x) \mathrm{d} x$$

然后 $\displaystyle{ f _{ Y } \left( y \right) = F ^{\prime} _{ Y } \left( y \right) }$