随机事件与概率

约 2789 字大约 9 分钟...

1.1 随机试验和随机事件

随机现象： 自然界中的客观现象，当人们观测它时，所得结果不能预先确定，而仅仅是多种可能结果之一。
随机试验： 随机现象的实现和对它某个特征的观测。
基本事件： 随机试验中的每个单一结果，犹如分子中的原子，在化学反应中不可再分。
e.g. 硬币抛3次，有8种结果：正正正、正正反、正反正……这8种可能结果每一个都是基本事件。
随机事件： 简称事件，在随机试验中我们所关心的可能出现的各种结果，它由一个或若干个基本事件组成。通常用英文大写字母表示或{一种叙述}来表示。
样本空间： 随机试验中所有基本事件所构成的集合，通常用 $Ω$ 或 $S$ 表示。 e.g. 掷一枚骰子，观察出现的点数，则 $Ω = {1, 2, 3, 4, 5, 6}$ .
**必然事件（ $Ω$ ）：**在试验中一定会发生的事件。
**不可能事件（ $ϕ$ ）：**在试验中不可能发生的事件。

1.2 事件的运算

子事件 $A \subset B$ ： 事件 $A$ 发生蕴含时间 $B$ 一定发生，则时间 $A$ 成为事件 $B$ 的子事件。若 $A \subset B$ ，且 $B \subset A$ ，则称时间 $A$ 与事件 $B$ 相等，记为 $A = B$
事件的和（ $A \cup B$ ）： 事件 $A$ 和事件 $B$ 中至少有一个发生称为事件 $A$ 和事件 $B$ 的和。
事件的积（ $A \cap B$ ）： 事件 $A$ 和事件 $B$ 同时发生称为 $A$ 和事件 $B$ 的积。如果 $A \cap B = ϕ$ ，则称 $A$ 和 $B$ 不相容，即事件 $A$ 和 $B$ 不能同时发生。
对立事件 $A^{c}$ （或 $\overset{―}{A}$ ）： $A$ 不发生这一事件称为事件 $A$ 的对立事件（或余事件）。
**事件 $A$ 和事件 $B$ 的差（ $A - B$ ）：**事件 $A$ 发生而事件 $B$ 不发生这一事件称为事件 $A$ 和事件 $B$ 的差，或等价于 $A B^{c}$ .
De Morgan対偶法则及其推广

\overset{―}{A \cup B} = \overset{―}{A} \cap \overset{―}{B},

\overset{―}{A \cap B} = \overset{―}{A} \cup \overset{―}{B}

上式可推广到n个事件：

\overset{―}{⋃_{i = 1}^{n} A_{i}} = ⋂_{i = 1}^{n} \overset{―}{A_{i}},

\overset{―}{⋂_{i = 1}^{n} A_{i}} = ⋃_{i = 1}^{n} \overset{―}{A_{i}},

1.3 概率的定义

概率是随机事件发生可能性大小的数字表征，其值在0和1之间，即概率是事件的函数。概率有以下定义：

1.3.1 古典概率

设一个试验有N个等可能的结果，而事件 $E$ 恰包含其中的 $M$ 个结果，则事件 $E$ 的概率，记为 $P (E)$ ，定义为 $P (E) = M / N$ 或 $P (E) = # (M) / # (N),$ 其中， $# (M)$ 为事件 $M$ 中基本事件的个数。

古典概型有两个条件：

有限性，试验结果只有有限个（记为n），
等可能性，每个基本时间发生的可能性相同。

**注：**古典概率可引申出“几何概率”。

1.3.2 概率的统计定义

古典概率的两个条件往往不能满足，但可以将事件的随机试验独立反复做n次（Bernouli试验），设事件 $A$ 发生了 $n_{A}$ 次，称比值 $\frac{n_{A}}{n}$ 为事件 $A$ 发生的频率，当n越来越大时，频率会在某个值p附近波动，且波动越来越小，这个值p就定义为事件 $A$ 的概率。该学派为频率派。

**注：**不能写为 $l i m_{n \to \infty} \frac{n_{A}}{n} = p$ ，因为 $\frac{n_{A}}{n}$ 不是n的函数。

1.3.3 主观概率

主观概率可以理解为一种心态或倾向性。究其根由，大抵有二：一是根据其经验和知识，二是根据其利害关系。该学派在金融和管理有大量的应用，这一学派成为Bayes学派。

1.3.4 概率的公理化定义

对概率运算规定一些简单的基本法则：

设 $A$ 是随机事件，则 $0 \leq P (A) \leq 1$ ,
设 $Ω$ 为必然事件，则 $P (Ω) = 1$ ,
若事件 $A$ 和 $B$ 不相容，则 $P (A \cup B) = P (A) + P (B)$ , 可推广至无穷： $P (⋃_{i = 1}^{n} A_{i}) = \sum_{i = 1}^{\infty} P (A_{i})$ .

注：
一般情况下， $P (A \cup B) = P (A) + P (B) - P (A B)$ ， $P (A \cup B \cup C) = P (A) + P (B) + P (C) - P (A B) - P (A C) - P (B C) + P (A B C)$
$P (\overset{―}{A}) = 1 - P (A)$
$P (A - B) = P (A) - P (A B)$

1.4 古典概率计算

1.4.1 排列组合

**选排列：**从n个不同元素中取r个不同取法（ $1 \leq r \leq n$ ）， $P_{r}^{n} = n (n - 1) . . . (n - r + 1)$ .
**重复排列：**从n个不同元素中可重复地取r个不同取法（ $1 \leq r \leq n$ ）， $P_{r}^{n} = n^{r}$ .
**组合：**同选排列，但不考虑次序， $(\binom{n}{r}) = \frac{P_{r}^{n}}{r!}$ .

注：
排列英文为Permutation，组合英文为Combination.
$0!$ 为1。当r不是非负整数时，记号 $r!$ 没有意义.
一些书中将组合写成 $C_{n}^{r}$ 或 $C_{r}^{n}$ ，更通用的是 $(\binom{n}{r})$ .

1.4.2 其他公式

组合系数 $(\binom{n}{r})$ 又常称为二项式系数 $(a + b)^{n} = \sum_{i = 0}^{n} (\binom{n}{r}) a^{i} b^{n - 1}$
n个相异物件分成k堆，各堆物件数分为 $r_{1}, . . ., r_{k}$ 的方法是 $n! / (r_{1}! . . . r_{k}!) .$

1.5 条件概率、乘法公式、独立性

条件概率就是知道了一定信息下得到的随机事件的概率。设事件 $A$ 和 $B$ 是随机试验 $Ω$ 中的两个事件， $P (B) > 0$ ，称

P (A | B) = \frac{P (A B)}{P (B)}

为事件 $B$ 发生条件下事件 $A$ 发生的条件概率，可用图形表示：

**注：**事实上，我们所考虑的概率都是在一定条件下计算的，因为随机试验就是在一定条件下进行的。

1.5.1 条件概率性质

给定 $A$ 发生， $P (A) > 0$ ：

$0 \leq P (B | A) \leq 1$
$0 \leq P (Ω | A) = 1$
若 $B_{1} \cap B_{2} = ϕ_{1}$ ，则 $P (B_{1} \cup B_{2} | A) = P (B_{1} | A) + P (B_{2} | A)$ ，可推广至无穷。

1.5.3 独立性

如果 $P (B | A) = P (B)$ ,则说明在A发生条件下的B的条件概率就等于B的原概率，表示A发生并不影响B发生的概率。

定义： $P (A B) = P (A) P (B)$ ,则称两个随机事件A，B是相互独立的。可以进一步推广：称 $A_{1}$ , $A_{2}$ , $A_{3}$ ,..., $A_{n}$ 是相互独立的，如果对任何整数 $k (2 \leq k \leq n)$ ,有 $P (A_{i_{1}} A_{i_{2}} \dots A_{i_{k}}) = P (A_{i_{1}}) P (A_{i_{2}}) \cdot \cdot \cdot P (A_{i_{k}})$ , 其中 $i_{1}, i_{2}, \dots, i_{k}$ ,是满足下面不等式的任何 $k$ 个正整数: $1 \leq i_{1} < i_{2} < \dots < i_{k} \leq n$ ,显然当 $A_{1}$ , $A_{2}$ , $A_{3}$ ,..., $A_{n}$ 相互独立时，有 $P (A_{1} A_{2} \dots A_{k}) = P (A_{1}) P (A_{2}) \dots P (A_{k})$

1.6 全概公式

设 $B_{1}, B_{2}, . . . B_{n}$ 是样本空间 $Ω$ 中的两两不相容的一组事件，即 $B_{i} B_{j} = ϕ$ ， $i \neq j$ ，且满足 $⋃_{i = 1}^{n} B_{i} = Ω$ ，则称 $B_{1}, B_{2}, . . . B_{n}$ 是样本空间 $Ω$ 的一个分割（又称为完备事件群，英文为partition）。

设 ${B_{1}, B_{2}, . . . B_{n}}$ 是样本空间 $Ω$ 的一个分割， $A$ 为 $Ω$ 的一个事件，则 $P (A) = \sum_{i = 1}^{n} P (A | B_{i}) P (B_{i})$

推导：

\begin{aligned} P (A) & = P (A \cap Ω) \\ = P (A \cap \sum_{i = 1}^{n} B_{i}) \\ = P (\sum_{i = 1}^{n} A B_{i}) \\ = \sum_{i = 1}^{n} P (A B_{i}) \\ = \sum_{i = 1}^{n} P (A | B_{i}) P (B_{i}) \\ = \sum_{i = 1}^{n} P (A | B_{i}) P (B_{i}) \end{aligned}

**注：**有时不易直接计算事件 $A$ 的概率，但是在每个 $B_{i}$ 上 $A$ 的条件概率容易求出

全概公式可以应用于赌徒输光问题、敏感问题的调查等

1.7 逆概公式(Bayes公式)

设 ${B_{1}, B_{2}, . . . B_{n}}$ 是样本空间的一个分割， $A$ 为 $Ω$ 中的一个事件， $P (B_{i}) > 0$ ， $i = 1, 2, . . ., n$ ， $P (A) > 0$ ，则

P (B_{i} | A) = \frac{P (A | B_{i}) P (B_{i})}{\sum_{j = 1}^{n} P (A | B_{j}) P (B_{j})}

**注：**当有因果关系互换时必须用Bayes公式。

贝叶斯公式在生活中的应用很多，例如疾病检测避免假阳性等

1.8 事件的独立性

设 $A$ ， $B$ 是随机试验中的两个事件，若满足 $P (A B) = P (A) P (B)$ ，则称事件 $A$ 和 $B$ 相互独立。判断事件的独立，应该是从实际出发，如果能够判断事件 $B$ 的发生与否对事件 $A$ 的发生与否不产生影响，则事件 $A$ ， $B$ 即为独立。

设 $\tilde{A}$ 表示事件 $A$ 发生和不发生之一， $\tilde{B}$ 表示事件 $B$ 发生和不发生之一。有独立性的定义可推至 $P (\tilde{A} \tilde{B}) = P (\tilde{A}) P (\tilde{B})$ （一共有四个等式）。可推广至： $P ({\tilde{A}}_{1} {\tilde{A}}_{2} . . . {\tilde{A}}_{n}) = P ({\tilde{A}}_{1}) . . . P ({\tilde{A}}_{n})$

上面有 $2^{n}$ 个等式。

**注：**独立（independent）和不相容（exclusive）是不同的两个概念，前者有公共部分，后者没有公共部分，独立一定相容。

1.9独立试验序列概型

定理(独立试验序列概型计算公式) 设单次试验中,事件A发生的概率为 $p (0 < p < 1)$ ,则在n次重复试验中， $P (A 发生 k 次) = C p^{'} g " (q = 1 - p) (k - 0, 1, 2, \dots ， n)$

证: 在n次重复试验中,记B,B,,…,B为构成事件“A发生k次”的那些试验结果,于是有:

(1)“A发生k次”= $B_{1} \cup B_{2} \cup \dots \cup B_{n}$ ; $B_{1}, B_{2}, \dots, B_{m}$ 互不相容;
(2) $P (B_{1}) = P (B_{2}) = \dots = P (B_{n}) = p^{k} q^{n - k}$
(3) $m = C_{n}^{k}$

注意,“n次重复试验”中的“重复”二字,是指这n次试验中各次试验的条件组是相同的.因此,这不仅意味着在各次试验中A发生的概率都是力(于是A发生的概率也都是q),而且还有各次试验的结果间是互相独立的含义.定理证明过程中的(2),就是基于这两个含义而得出的.在具体应用时也要注意这“重复”二字,

1.10 重要公式与结论

\begin{aligned} (1) P (\overset{―}{A}) = 1 - P (A) \\ (2) P (A \cup B) = P (A) + P (B) - P (A B) \\ (3) P (A \cup B \cup C) = P (A) + P (B) + P (C) - P (A B) - P (A C) - P (B C) + P (A B C) \\ (4) P (A - B) = P (A) - P (A B) \\ (5) P (A \overset{―}{B}) = P (A) - P (A B), P (A) = P (A B) + P (A \overset{―}{B}), \\ P (A \cup B) = P (A) + P (\overset{―}{A} B) = P (A B) + P (A \overset{―}{B}) + P (\overset{―}{A} B) \\ (6) P ({\overset{―}{A}}_{1} | B) = 1 - P (A_{1} | B), P (A_{1} \cup A_{2} | B) = P (A_{1} | B) + P (A_{2} | B) - P (A_{1} A_{2} | B) \\ P (A_{1} A_{2} | B) = P (A_{1} | B) P (A_{2} | A_{1} B) \\ (7) 若 A_{1}, A_{2}, . . . A_{n} 相 独 立 ， 则 P (⋂_{i = 1}^{n} A_{i}) = \prod_{i = 1}^{n} P (A_{i}), P (⋃_{i = 1}^{n} A_{i}) = \prod_{i = 1}^{n} (1 - P (A_{i})) \end{aligned}