原始的 CLT 如下:
Central Limit Theorem 设 i.i.d 且均值 方差 , 则 我们考虑一个简化版本的 CLT.
Central Limit Theorem (Simplified) 设 i.i.d 地服从 , 则对任意 , 有 定义函数 满足
以及 ,
上述简化版本的 CLT 可以表述为下属等式: 称为 test
function.
Berry-Esseen 定理
Berry-Esseen 定理给出了 CLT 的近似有多好:
Berry-Esseen Theorem (Simplified) 设 i.i.d 地服从 , 则对任意 , 有
考虑 test function ,
更一般地, 有:
Berry-Esseen Theorem 设 i.i.d. 地服从 且 i.i.d. 地服从 , 对于 , 有 其中 .
Proof. 令 则 现在只需要证明
即可. 注意到 ,
, 当 充分大时, 和 显然会很接近, 于是考虑对 在 处进行 Taylor 展开: 以及 取期望, 同时根据已知条件可知 的一阶矩和二阶矩, 即 , ,
于是
这就完成了证明.
Larger function class:
-Lipschitz
Berry-Esseen Theorem 设 i.i.d. 地服从 且 i.i.d. 地服从 , 对于满足 -Lipschitz 条件的 , 有 Proof. 是
-Lipschitz 的, 如果 对任意 都成立. 首先对于 -Lipschitz 函数有如下引理.
Lemma 若
是 -Lipschitz 的, 则对任意 , 存在 满足:
要证明该引理, 只需要构造 现在验证
满足上述的两个条件.
于是 其中取
得函数
的最大值.