正态近似于均匀和分布的误差

一种近似于正态分布的幼稚方法是将大约均匀分布在上的IID随机变量加在一起，然后根据中心极限定理对它们进行重新缩放和重新缩放。（旁注：还有更精确的方法，例如Box-Muller变换。）IID随机变量的总和称为均匀总和分布或Irwin-Hall分布。 $100$ $[0,1]$ $U(0,1)$

用正态分布近似均匀和分布时的误差有多大？

每当出现这种类型的问题以近似IID随机变量的总和时，人们（包括我）都会提出Berry–Esseen定理，这是中心极限定理的有效形式，因为存在第三阶矩：

| F_{n} (x) - Φ (x) | \leq \frac{C ρ}{σ^{3} \sqrt{n}}

$|F_n(x) - \Phi(x)| \le \frac{C \rho}{\sigma^3 \sqrt n}$

其中是 IID随机变量的重新定标和的累积分布函数，是绝对的第三中心矩，是标准偏差，是绝对常数，可以取为甚至。 $F_n$ $n$ $\rho$ $E|(X-EX)^3|$ $\sigma$ $C$ $1$ $1/2$

这是不令人满意的。在我看来，对于离散的二项式分布，Berry-Esseen估计最接近锐利，对于对称的二项式分布，最大误差为 $0$ 。最大的错误来自最大的跳跃。但是，统一的总和分布没有跳跃。

数值测试表明，误差的减小比更快 $c/\sqrt n$ 。

使用 $C=1/2$ ，Berry–Esseen估计为

| F_{n} (x) - Φ (x) | \leq \frac{\frac{1}{2} \frac{1}{32}}{\frac{1}{{\sqrt{12}}^{3}} \sqrt{n}} \approx \frac{0.650}{\sqrt{n}}

$|F_n(x) - \Phi(x)| \le \frac{\frac12 \frac{1}{32}}{\frac{1}{\sqrt{12}^3} \sqrt n} \approx \frac{0.650}{\sqrt n}$

这对于 $n=10,20,40$ 为约 $0.205$ ， $0.145$ ，和 $0.103$ ，分别。对于实际的最大差异 $n=10, 20, 40$ 似乎是约 $0.00281$ ， $0.00139$ 和 $0.000692$ ，分别，这要小得多，并且似乎落入如 $c/n$ ，而不是 $c/\sqrt n$ 。

— 道格拉斯·扎尔
source

如果在Edgeworth展开中展开总和的分布，则会发现在均匀由于（因为均匀分布是对称的），所以听起来大约是正确的。由于中来看，这不会给你一个绑定虽然...

F_{n} (x) = Φ (x) + n^{- 1} g (x) + o (n^{- 1})

$F_n(x)=\Phi(x)+n^{-1}g(x)+o(n^{-1})$

x

$x$

n \to \infty

$n\rightarrow\infty$

c / n

$c/n$

o (n^{- 1})

$o(n^{-1})$

— MånsT

谢谢，这似乎也解释了许多其他发行版的模式。

c / n

$c/n$

— 道格拉斯·扎里

令为iid随机变量，并考虑归一化和以及相关的规范其中是的分布。 $U_1, U_2,\dots$ $\mathcal U(-b,b)$

S_{n} = \frac{\sqrt{3} \sum_{i = 1}^{n} U_{i}}{b \sqrt{n}},

$S_n = \frac{\sqrt{3} \sum_{i=1}^n U_i}{b \sqrt{n}} \>,$

sup

$\sup$

δ_{n} = sup_{x \in R} | F_{n} (x) - Φ (x) |,

$\delta_n = \sup_{x\in\mathbb R} |F_n(x) - \Phi(x)| \>,$

F_{n}

$F_n$

S_{n}

$S_n$

引理1（Uspensky）：上的以下约束成立。 $\delta_n$

δ_{n} < \frac{1}{7.5 π n} + \frac{1}{π} {(\frac{2}{π})}^{n} + \frac{12}{π^{3} n} \exp (- π^{2} n / 24) .

$\delta_n < \frac{1}{7.5 \pi n} + \frac{1}{\pi}\left(\frac{2}{\pi}\right)^n + \frac{12}{\pi^3 n} \exp(-\pi^2 n / 24) \>.$

证明。参见《乌斯别斯基合资企业》（1937年），《数学概率导论》，纽约：麦格劳-希尔出版社，p。。305。

后来R. Sherman将其改进为以下内容。

引理2（Sherman）：对Uspensky界的以下改进。

δ_{n} < \frac{1}{7.5 π n} - (\frac{π}{180} + \frac{1}{7.5 π n}) e^{- π^{2} n / 24} + \frac{1}{(n + 1) π} {(\frac{2}{π})}^{n} + \frac{12}{π^{3} n} e^{- π^{2} n / 24} .

$\delta_n < \frac{1}{7.5 \pi n} - \left(\frac{\pi}{180}+\frac{1}{7.5\pi n}\right) e^{-\pi^2 n / 24} + \frac{1}{(n+1)\pi}\left(\frac{2}{\pi}\right)^n + \frac{12}{\pi^3 n} e^{-\pi^2 n / 24} \>.$

证明：见R.Sherman，N个随机变量之和的正态近似误差，Biometrika，vol。58号 2，396–398。

该证明非常简单地应用了三角形不等式和经典边界在正态分布的尾部以及应用于的两个分布的特征函数。 $(\sin x) / x$

— 红衣主教
source

+1是引理2中的吗？

N = n

$N=n$

@拖延者：好收获。

— 主教

谢谢！这些参考资料非常有帮助。估计值似乎在实际值的倍以内。

2

$2$

— 道格拉斯·扎里