083-核心概念-依分布收敛(弱收敛)

知识点概述

依分布收敛（Convergence in Distribution），又称弱收敛（Weak Convergence），是概率论中“最弱”的一种收敛模式。它不要求随机变量本身的值收敛，甚至不要求它们定义在同一个概率空间上。它只关注随机变量的分布函数是否收敛到一个极限分布函数。中心极限定理就是依分布收敛最典型的例子。

教材原文

(教材在第四章标题“极限定理”及4.1节标题“随机变量列的收敛性”下引入此概念。)

详细解释

1. 定义

设 {X_n}_(n=1)^(∞) 是一个随机变量序列，其对应的分布函数序列为 {F_n(x)}。设 X 是一个随机变量，其分布函数为 F(x)。

如果对于 F(x) 的所有连续点 x，都有：

$$\underset{n\to \infty }{\lim }{F}_n(x)=F(x)$$

那么，我们称随机变量序列 {X_n} 依分布收敛于 X，记为： $X_n\stackrel{d}{\to }X(\text{as }n\to \infty )$

2. 直观理解

• 只关心分布，不关心值: 依分布收敛只关心随机变量的“概率特性”或“宏观统计规律”是否趋于稳定，而不关心随机变量每一次实现的具体数值。例如，$X_n$ 可能一直取正值，$X$ 可能一直取负值，但只要它们的分布函数趋于一致，就可以说 $X_n$ 依分布收敛于 $X$。
• CDF曲线的收敛: 这种收敛可以直观地想象为，分布函数曲线 $F_n(x)$ 随着 $n$ 的增大，越来越逼近极限分布函数 $F(x)$ 的曲线。
• 为何只在连续点收敛: 定义中“在F(x)的连续点上收敛”这个技术性细节是为了处理离散分布的情况。如果极限分布 $F(x)$ 在某点 $x_0$ 有一个跳跃（即 $X$ 在 $x_0$ 点取值的概率大于0），那么 $F_n(x)$ 在 $x_0$ 点附近的行为可能会有振荡，不一定收敛到 $F(x_0)$。但在该点的任意邻域外，收敛性是保证的。对于连续的极限分布 $F(x)$，这个条件就等价于在所有点上都收敛。

3. 与其他收敛方式的关系

依分布收敛是最弱的一种收敛。

• 依概率收敛 $⟹$ 依分布收敛: 如果 $X_n\stackrel{P}{\to }X$，那么 $X_n\stackrel{d}{\to }X$。也就是说，如果一个序列的“值”都向一个极限靠拢，那么它的“分布”必然也向那个极限的分布靠拢。
• 反之不成立: 依分布收敛不能推出依概率收敛。一个经典的例子是，设 $X\sim N(0,1)$，令 $X_n=-X$ 对所有n成立。那么 $X_n$ 和 $X$ 的分布完全相同（都是标准正态分布），所以 $F_n(x)=F(x)$ 恒成立，因此 $X_n$ 依分布收敛于 $X$。但是，$|X_n-X|=|-X-X|=|2X|$，这个值并不会随着n增大而趋向于0，所以它不依概率收敛。

收敛强度关系链: 几乎必然收敛 $⟹$ r阶平均收敛 $⟹$ 依概率收敛 $⟹$ 依分布收敛

学习要点

• 掌握依分布收敛的定义：分布函数的收敛。
• 理解其“弱”在何处：只关心分布的形状，不关心变量的取值。
• 知道依分布收敛是所有收敛模式中最弱的一种，其他更强的收敛都能推导出依分布收敛。
• 能够举例说明依分布收敛不能推出依概率收敛。

实践应用

• 中心极限定理 (Central Limit Theorem): 这是依分布收敛最核心的应用。它指出，在适当的条件下，大量独立随机变量的和（或均值）经过标准化后，其分布会收敛于标准正态分布。无论原始变量是什么分布，它们的和的分布形状最终都会变成正态分布。这解释了为何正态分布在自然界中如此普遍。

  $$\frac{{\bar{X}}_n-\mu }{\sigma /\sqrt{n}}\stackrel{d}{\to }N(0,1)$$

• 统计模拟: 在很多统计模拟中，我们生成服从某个复杂分布的随机数，是通过生成服从简单分布的随机数序列，并利用该序列依分布收敛到目标分布的性质来实现的。

• 近似计算: 当样本量 $n$ 很大时，中心极限定理允许我们用正态分布来近似计算二项分布、泊松分布等分布的概率，极大地简化了计算。

关联知识点

• 前置知识:
  • 028-核心概念-分布函数及其性质
• 后续知识:
  • 084-理论方法-收敛性的关系
  • 085-理论方法-连续性定理 (勒维连续性定理，给出了依分布收敛与特征函数收敛的等价关系)
  • 091-核心概念-中心极限定理的定义