088-理论方法-Bernoulli大数律

知识点概述

伯努利大数定律（Bernoulli’s Law of Large Numbers）是历史上第一个被严格证明的大数定律，由雅各布·伯努利在1713年提出。它指出，在n重伯努利试验中，当试验次数n足够大时，事件发生的频率会依概率收敛于其发生的概率。这个定律首次从数学上严格论证了我们可以通过重复试验得到的频率来估计理论概率。

教材原文

(该知识点是标准概率论内容，是大数定律理论的开端。)

详细解释

1. 定理内容

设 $S_n$ 是在 $n$ 重伯努利试验中事件 $A$ 发生的次数（即“成功”的次数），其中每次试验中事件 $A$ 发生的概率为 $p$。

那么，事件 $A$ 发生的频率 $\frac{S_n}{n}$ 依概率收敛于其发生的概率 $p$。

$\frac{S_n}{n}\stackrel{P}{\to }p$

即，对于任意 $ϵ>0$，有： ${\lim }_{n\to \infty }P\left(\left|\frac{S_n}{n}-p\right|\ge ϵ\right)=0$

2. 证明思路

伯努利大数定律是切比雪夫大数定律的一个直接推论。

1. 构建随机变量序列: 我们可以将n重伯努利试验看作一个由n个独立同分布的随机变量 $X_1,X_2,\dots ,X_n$ 组成的序列。其中每个 $X_i$ 代表第 $i$ 次试验的结果： $X_i=\{\begin{array}{ll}1,& \text{第i次试验成功 (事件A发生)}\\ 0,& \text{第i次试验失败}\end{array}$ $X_i$ 服从期望为 $p$ 的伯努利分布。

2. 关联样本均值: 事件A发生的总次数 $S_n$ 就是这个序列的和：$S_n={\sum }_{i=1}^n{X}_i$。而事件发生的频率 $\frac{S_n}{n}$ 正好就是这个序列的样本均值 ${\bar{X}}_n$。

3. 应用切比雪夫大数定律: 我们来验证 $X_i$ 序列是否满足切比雪夫大数定律的条件：

   • 独立性: 伯努利试验的定义要求各次试验相互独立，满足。
   • 同均值: 每个 $X_i$ 的期望都是 $E(X_i)=1\cdot p+0\cdot (1-p)=p$。总体均值 $\mu =p$，满足。
   • 方差有界: 每个 $X_i$ 的方差为 $D(X_i)=E(X_i^2)-[E(X_i){]}^2=p-p^2=p(1-p)$。由于 $0\le p\le 1$，方差 $p(1-p)$ 的最大值为 $1/4$（当p=1/2时），所以方差是一致有界的，满足。

4. 得出结论: 既然所有条件都满足，根据切比雪夫大数定律，样本均值 ${\bar{X}}_n$ 依概率收敛于总体均值 $\mu$。即： $\frac{S_n}{n}\stackrel{P}{\to }p$ 证明完毕。

学习要点

• 历史意义: 伯努利大数定律是第一个严格证明的大数定律，它为概率论从机会游戏的研究走向严谨的数学学科奠定了基础。
• 频率与概率的桥梁: 该定律的核心思想是“频率收敛于概率”，它为我们使用频率来估计概率的统计思想提供了坚实的理论依据。
• 作为特例: 理解伯努利大数定律是切比雪夫大数定律在伯努利试验这一重要模型下的一个具体应用和特例。

实践应用

• 民意调查: 为什么我们可以通过抽样调查一小部分人（如1000人）来估计整个国家几千万甚至上亿选民对某位候选人的支持率？伯努利大数定律告诉我们，只要样本量足够大，样本中的支持率（频率）就会非常接近总体的真实支持率（概率）。
• 产品质量检验: 通过抽检一大批产品，计算样本中的次品率（频率），可以用来估计整批产品的真实次品率（概率）。
• 任何基于频率的估计: 所有依赖于用重复试验的频率来估计未知概率的做法，其背后都有大数定律的支撑。

关联知识点

• 前置知识:
  • 087-理论方法-Chebyshev大数律
  • 031-理论方法-Bernoulli试验与概型
• 后续知识:
  • 089-理论方法-Khintchine大数律 (将伯努利大数定律的结论推广到更一般的情况)