大数定律

大数定律的核心思想：随机变量序列的算术平均值 ${\bar{X}}_n$ 依概率收敛于其数学期望 $\mu$。 $\frac{1}{n}{\sum }_{i=1}^n{X}_i\stackrel{P}{\to }\mu$

三个重要定律

1. 切比雪夫大数定律

• 条件：$X_i$ 相互独立（不必同分布），方差一致有界（$D(X_i)\le C$）。
• 结论：$\frac{1}{n}\sum X_i\stackrel{P}{\to }\frac{1}{n}\sum E(X_i)$。

2. 伯努利大数定律 (Bernoulli’s LLN)

• 背景：$n$ 重伯努利试验，$n_A$ 为事件A发生的次数，$p$ 为单次概率。
• 结论：频率依概率收敛于概率。 $\frac{n_A}{n}\stackrel{P}{\to }p$
• 意义：这是“频率稳定性”的理论基础。

3. 辛钦大数定律 (Khinchin’s LLN)

• 条件：$X_i$ 独立同分布 (i.i.d)，且期望 $E(X_i)=\mu$ 存在。
• 结论：$\frac{1}{n}\sum X_i\stackrel{P}{\to }\mu$。
• 意义：这是最常用的形式，只要独立同分布且期望存在，均值就稳定。