知识点概述
林德伯格-勒维中心极限定理(Lindeberg-Lévy Central Limit Theorem)是中心极限定理最常见、最经典的形式。它为在独立同分布(i.i.d.) 这个核心假设下,大量随机变量之和的分布趋向于正态分布提供了严格的数学描述。这个定理是现代统计推断的理论基石。
教材原文
(该定理是中心极限定理的标准形式,在教材4.3节中作为核心内容引入。)
详细解释
1. 定理内容
设 是一系列独立同分布 (i.i.d.) 的随机变量。
假设它们的数学期望和方差都存在且有限:
- (其中 )
令 为样本和,ar{X}_n = S_n/n 为样本均值。
定理断言,当 时,对样本和(或样本均值)进行标准化后的随机变量 : Z_n = rac{S_n - nΓ}{√{n}σ} = rac{ar{X}_n - Γ}{σ/√{n}} 依分布收敛于标准正态分布 。
2. 定理的条件与结论
-
核心条件:
- 独立同分布 (i.i.d.): 这是最关键的假设。所有随机变量都来自同一个总体,并且相互之间没有影响。
- 期望和方差存在: 要求随机变量的波动性是有限的,排除了某些具有“厚尾”特性的分布(如柯西分布,其期望和方差不存在)。
-
核心结论:
- 依分布收敛: 结论是关于分布的收敛,而不是值的收敛。
- 正态分布: 极限分布是正态分布,这体现了正态分布在概率论中的中心地位。
- 标准化: 必须进行标准化(减均值,除以标准差),极限分布才是标准正态分布 。
3. 证明思路
- 目标: 证明 的特征函数 的极限是标准正态分布的特征函数 。
- 变量代换: 令 Y_i = rac{X_i - Γ}{σ},则 是标准化的随机变量,满足 。那么 Z_n = rac{1}{√{n}} ∑_{i=1}^n Y_i。
- 特征函数变换:
- 利用特征函数的性质,Φ_{Z_n}(t) = Φ_{∑ Y_i}(rac{t}{√{n}})。
- 由于 独立同分布,Φ_{Z_n}(t) = [Φ_{Y_1}(rac{t}{√{n}})]^n。
- 泰勒展开: 对 在 附近进行二阶泰勒展开。因为 ,我们有: Φ_{Y_1}(u) = Φ_{Y_1}(0) + Φ_{Y_1}'(0)u + rac{Φ_{Y_1}''(0)}{2}u^2 + o(u^2) Φ_{Y_1}(u) = 1 + iE(Y_1)u + rac{i^2E(Y_1^2)}{2}u^2 + o(u^2) = 1 - rac{1}{2}u^2 + o(u^2)。
- 取极限:
- 令 。当 时,。
- Φ_{Z_n}(t) = [1 - rac{1}{2}(rac{t}{√{n}})^2 + o((rac{t}{√{n}})^2)]^n = [1 - rac{t^2}{2n} + o(rac{1}{n})]^n。
- 利用重要极限 ∑_{n o∞}(1+rac{a}{n})^n = e^a,可以证明上式的极限为 。
- 结论: 由于 的特征函数收敛于标准正态分布的特征函数,根据连续性定理, 依分布收敛于 。
学习要点
- CLT的经典形式: 林德伯格-勒维定理是中心极限定理最基础和最常用的版本。
- I.I.D.是关键: “独立同分布”是应用该定理的首要前提。
- 证明技巧: 理解基于特征函数的证明方法,是掌握现代概率论证明技巧的典范。
关联知识点
- 前置知识:
- 推广:
- 095-理论方法-Lyapunov定理 (将“同分布”条件放宽)
- 094-理论方法-Lindeberg条件与Feller条件 (中心极限定理成立的更一般的条件)