知识点概述

特征函数（Characteristic Function）是描述随机变量概率分布的另一种工具，可以看作是矩母函数（MGF）的推广。它通过复变函数 $e^{i tX}$ 的期望来定义，其最大的优点是对于任何随机变量（无论其矩是否存在）都必定存在，因此在理论分析中比矩母函数更具普遍性和优越性。

教材原文

(教材在3.4节标题“特征函数”中引入此概念。)

设 $X$ 是一个随机变量（离散或连续），其特征函数 $ϕ_{X} (t)$ 定义为： $ϕ_{X} (t) = E (e^{i tX})$ 其中 $t$ 是一个实数， $i$ 是虚数单位 ( $i^{2} = - 1$ )。
根据欧拉公式 $e^{i x} = cos (x) + i sin (x)$ ，特征函数也可以写成： $ϕ_{X} (t) = E [cos (tX) + i sin (tX)] = E [cos (tX)] + i E [sin (tX)]$
计算:
- 离散型: $ϕ_{X} (t) = \sum_{k} e^{i t x_{k}} P (X = x_{k})$
- 连续型: $ϕ_{X} (t) = \int_{- \infty}^{\infty} e^{i t x} f (x) d x$
与傅里叶变换的关系: 连续型随机变量的特征函数本质上是其概率密度函数（PDF）的傅里叶变换（在变换的符号和常数因子上可能与不同领域的定义略有差异）。

关系: 如果一个随机变量的矩母函数 $M_{X} (t) = E (e^{tX})$ 在包含0的区间内存在，那么通过简单的变量代换 $t \to i t$ ，就可以得到特征函数： $ϕ_{X} (t) = M_{X} (i t)$
优势 (为何需要特征函数):
1. 普遍存在性: 对于任何随机变量 $X$ ，其特征函数 $ϕ_{X} (t)$ 总是存在的。这是因为它所涉及的函数 $e^{i tX}$ 的模长 $∣ e^{i tX} ∣ = ∣ cos (tX) + i sin (tX) ∣ = cos^{2} (tX) + sin^{2} (tX) = 1$ 是有界的。因此，其期望（积分或求和）总是收敛的。而矩母函数 $E (e^{tX})$ 可能会因为 $e^{tX}$ 增长过快而发散（例如柯西分布）。
2. 理论分析的便利性: 作为傅里叶分析的工具，特征函数具有许多优良的数学性质（例如一致连续、有界等），使得它在证明极限定理（特别是中心极限定理）时比矩母函数更方便、更严谨。

虽然在本科阶段的概率计算中，矩母函数因为形式更简单而更常用，但特征函数在更高级的概率论和统计理论中是不可或缺的工具。

中心极限定理的证明: 中心极限定理最经典和严格的证明就是通过勒维连续性定理（Lévy’s continuity theorem）完成的，该定理描述了特征函数的收敛与随机变量分布收敛之间的关系。
分布的稳定性: 用于研究和定义稳定分布（Stable Distribution），这类分布在金融建模等领域有重要应用，但它们通常没有简单的PDF表达式，只能通过特征函数来定义。
信号处理: 由于特征函数与傅里叶变换的紧密关系，它自然地应用在信号分析和处理领域。

例题: 求标准正态分布 $Z \sim N (0, 1)$ 的特征函数。

解题思路:

利用MGF: 我们知道标准正态分布的MGF为 $M_{Z} (t) = e^{t^{2} /2}$ 。
代换: 利用关系 $ϕ_{Z} (t) = M_{Z} (i t)$ 。 $ϕ_{Z} (t) = e^{(i t)^{2} /2} = e^{i^{2} t^{2} /2} = e^{- t^{2} /2}$
结论: 标准正态分布的特征函数是 $ϕ_{Z} (t) = e^{- t^{2} /2}$ 。有趣的是，它的PDF和特征函数具有相同的函数形式（高斯函数），这在傅里叶变换中被称为“不动点”。