Iid随机变量之和的平方根的中心极限定理

出于对math.stackexchange的一个问题的兴趣，并进行了实证研究，我想知道以下有关iid随机变量之和的平方根的陈述。

假设是具有有限非零均值和方差 iid随机变量，并且。中心极限定理说随着增加。 $X_1, X_2, \ldots, X_n$ $\mu$ $\sigma^2$ $\displaystyle Y=\sum_{i=1}^n X_i$ $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ $n$

如果，我也可以说类似随着增加？ $Z=\sqrt{|Y|}$ $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ $n$

例如，假设是具有均值和方差伯努利（Bernoulli，那么是二项式的，我可以在R中模拟它，例如： $X_i$ $p$ $p(1-p)$ $Y$ $p=\frac13$

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

给出了的期望均值和方差 $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

和一个看起来像高斯的QQ图

qqnorm(Z)

normal-distribution central-limit-theorem sum

— 亨利
source

@MichaelM：感谢您的评论。我从非负开始，但我认为您所描述的直观渐近行为允许将其推广到更多分布。令我惊讶的是：（a）和的平方根的方差明显趋于一个常数，而不取决于；（b）看起来非常接近高斯分布的外观。一个反例是可以接受的，但是当我尝试其他最初似乎不是高斯的情况时，进一步增加似乎会使分布回到CLT类型的结果。

X_{i}

$X_i$

n

$n$

n

$n$

— 亨利

这方面的一个推论是根均方（或二次平均）独立同分布的随机变量适当地缩放（乘以的与算术平均值）也收敛于规定，高斯分布的阶矩基础分布是有限的。

\sqrt{n}

$\sqrt{n}$

4

$4$

— 亨利

简而言之：该声明是Delta方法的特例，请参见Casella＆Berger在“统计推断”一书中的定理5.5.24。

— Michael M

@Michael：也许您看到的是我目前不知道的东西，但是我认为这个特殊问题不适合经典Delta方法的假设（例如，如您所参考的定理中所述）。请注意，不会在分布上收敛（非平凡地在），因此“应用的Delta方法”不能满足必要的要求。但是，正如S. Catterall的答案所证明的那样，它提供了一种有用的启发式方法，可以得出正确的答案。

Y

$Y$

R

$\mathbb R$

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

— 红衣主教

（我相信您可以将Delta方法的证明适用于与上述相似的情况，以便充分严格地执行上述启发式方法。）

— 红衣主教

收敛到高斯确实是普遍现象。

假设是均值和方差 IID随机变量，并定义和。固定数字。通常的中心极限定理告诉我们为，其中是标准普通CDF。但是，限制cdf的连续性意味着我们也有 $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$ 因为不等式右侧的附加项趋于零。重新排列此表达式会导致

P （ ÿ_{ñ} \leq （ \frac{α σ}{2 \sqrt{μ}} + \sqrt{ñ μ} ）^{2} ） \to Φ （ α ）

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

取平方根，并注意到表示，我们得到换句话说，。该结果证明了在极限为收敛到高斯。 $\mu\gt 0$ $P(Y_n\lt 0)\to 0$

P （ \sqrt{| ÿ_{ñ} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{ñ μ} ） \to Φ （ α ）

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

这是否意味着是大的良好近似值？好吧，我们可以做得更好。正如@Henry指出的那样，假设一切都是正数，我们可以使用以及和近似值，以获得改进的近似值如上述问题所述，。还要注意，我们仍然有因为 $\sqrt{n\mu}$ $E[\sqrt{|Y_n|}]$ $n$ $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| ÿ_{ñ} |} - \sqrt{ñ μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} ñ （ 0 ， 1个 ）

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$ 为。

n \to \infty

$n\to\infty$

— S. Catterall恢复莫妮卡
source

您可能需要将作为以获得我的结果

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

— 亨利

@Henry您可以将用替换为任何常数，这不会更改限制分布，但可能会更改对于特定的大很好地近似于。您是如何提出？

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

— S. Catterall恢复莫妮卡（Monica）

我们有所以。假设一切都是正的，则而建议，然后将这些引线组合为。

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

— 亨利

好的，谢谢，我已经尝试在我的回答中对此进行介绍。

— S. Catterall恢复莫妮卡（Monica）