另一个中心极限定理问题

11

令为具有的独立伯努利随机变量序列设置表明在分布上收敛于标准正态变量因为趋于无穷大。 $\{X_n:n\ge1\}$
$P {X_{k} = 1} = 1 - P {X_{k} = 0} = \frac{1}{k} .$ $P\{X_k=1\}=1-P\{X_k=0\}=\frac{1}{k}.$ $S_{n} = \sum_{k = 1}^{n} (X_{k} - \frac{1}{k}), B_{n}^{2} = \sum_{k = 1}^{n} \frac{k - 1}{k^{2}}$ $S_n=\sum^{n}_{k=1}\left(X_k-\frac{1}{k}\right), \ B_n^2=\sum^{n}_{k=1}\frac{k-1}{k^2}$ $\frac{S_n}{B_n}$ $Z$ $n$

我的尝试是使用Lyapunov CLT，因此我们需要显示存在一个，使得 $\delta>0$

lim_{n \to \infty} \frac{1}{B_{n}^{2 + δ}} \sum_{k = 1}^{n} E [| X_{k} - \frac{1}{k} |^{2 + δ}] = 0.

$\lim_{n\rightarrow \infty}\frac{1}{B_n^{2+\delta}}\sum_{k=1}^{n}E[|X_k-\frac{1}{k}|^{2+\delta}]=0.$

因此设置 $\delta=1$

\sum_{k = 1}^{n} E {| X_{k} - k^{- 1} |}^{3} = \sum_{k = 1}^{n} (\frac{1}{k} - \frac{3}{k^{2}} + \frac{4}{k^{3}} - \frac{2}{k^{4}})

$\sum_{k=1}^{n}E\left|X_k-k^{-1}\right|^{3}=\sum_{k=1}^{n} \left(\frac{1}{k}-\frac{3}{k^2}+\frac{4}{k^3}-\frac{2}{k^4}\right)$ 和

B_{n}^{3} = (\sum_{k = 1}^{n} \frac{1}{k} - \frac{1}{k^{2}}) \sqrt{(\sum_{k = 1}^{n} \frac{1}{k} - \frac{1}{k^{2}})}

$B_n^3=\left( \sum_{k=1}^n \frac{1}{k}-\frac{1}{k^2} \right) \sqrt{\left( \sum_{k=1}^n \frac{1}{k}-\frac{1}{k^2} \right)}$

通过在计算机上评估大n，它显示 $\sum_{k=1}^{n}E|X_k-k^{-1}|^{3} \to \infty$ 和 $B_n^3 \to \infty$ 作为 $n \to \infty$ 。但是 $B_n^3$ 增长速度快于 $B_n^2$ 因此 $\frac{\sum_{k=1}^{n}E|X_k-k^{-1}|^{3}}{B_n^3} \to 0$ 。有人可以帮助我证明这种融合是否成立吗？

probability convergence central-limit-theorem

— 蒂芙尼蝴蝶
source

7

这是Patrick Billingsley 编写的概率和测度示例27.3 。

— 詹雄

10

利用累积量生成函数的性质（与中央极限定理的标准证明一样），从第一性原理和基本结果中证明这一结果可能是有益的。它需要我们了解的生长速率广义谐波数为这些增长率是众所周知的，并且可以通过与积分进行比较来轻松获得：它们收敛为，否则对数为。

H (n, s) = \sum_{k = 1}^{n} k^{- s}

$H(n,s)=\sum_{k=1}^n k^{-s}$

s = 1, 2, \dots .

$s=1, 2, \ldots.$

\int_{1}^{n} x^{- s} d x

$\int_1^n x^{-s}dx$

s > 1

$s \gt 1$

s = 1

$s=1$

令和。根据定义，的累积量生成函数（cgf）为 $n \ge 2$ $1 \le k \le n$ $(X_k - 1/k)/B_n$

ψ_{k, n} (t) = \log E (\exp (\frac{X_{k} - 1 / k}{B_{n}} t)) = - \frac{t}{k B_{n}} + \log (1 + \frac{- 1 + \exp (t / B_{n})}{k}) .

$\psi_{k,n}(t) = \log\mathbb{E}\left(\exp\left(\frac{X_k - 1/k}{B_n}t\right)\right) = -\frac{t}{k B_n} + \log\left(1 + \frac{-1 + \exp(t/B_n)}{k}\right).$

从附近的扩展获得的右手边的系列扩展采用以下形式 $\log(1+z)$ $z=0$

ψ_{k, n} (t) = \frac{(k - 1)}{2 k^{2} B_{n}^{2}} t^{2} + \frac{k^{2} - 3 k + 2}{6 k^{3} B_{n}^{3}} t^{3} + \dots + \frac{k^{j - 1} - \dots \pm (j - 1)!}{j! k^{j} B_{n}^{j}} t^{j} + \dots .

$\psi_{k,n}(t) = \frac{(k-1)}{2 k^2 B_n^2}t^2 + \frac{k^2 - 3k + 2}{6 k^3 B_n^3} t^3 + \cdots + \frac{k^{j-1} - \cdots \pm (j-1)!}{j! k^j B_n^j}t^j + \cdots.$

分数的分子是中的多项式，前导项为。因为对数展开绝对收敛，此扩展绝对收敛于 $k$ $k^{j-1}$ $\left|\frac{-1 + \exp(t/B_n)}{k}\right| \lt 1$

| \exp (t / B_{n}) - 1 | < k .

$\left|\exp(t/B_n) - 1\right| \lt k.$

（在情况下，它会在各处收敛。）对于固定的和增大的值，的（明显）发散度表示绝对会聚的域任意增大。因此，对于任何固定的和足够大的，此扩展绝对收敛。 $k=1$ $k$ $n$ $B_n$ $t$ $n$

对于足够大的，那么，我们因此可以总结各个超过通过术语术语中的权力得到的CGF， $n$ $\psi_{k,n}$ $k$ $t$ $S_n/B_n$

ψ_{n} (t) = \sum_{k = 1}^{n} ψ_{k, n} (t) = \frac{1}{2} t^{2} + \dots + \frac{1}{B_{n}^{j}} (\sum_{k = 1}^{n} (k^{- 1} - \dots \pm (j - 1)! k^{- j})) \frac{t^{j}}{j} + \dots .

$\psi_n(t) = \sum_{k=1}^n \psi_{k,n}(t) = \frac{1}{2}t^2 + \cdots + \frac{1}{B_n^j}\left(\sum_{k=1}^n \left(k^{-1} - \cdots \pm (j-1)!k^{-j}\right)\right)\frac{t^j}{j} + \cdots.$

一次取总和超过个的项要求我们评估与以下项成比例的表达式 $k$

b (s, j) = \frac{1}{B_{n}^{j}} \sum_{k = 1}^{n} k^{- s}

$b(s,j) = \frac{1}{B_n^j}\sum_{k=1}^n k^{-s}$

对于和。使用导言中提到的广义谐波数的渐近性，可以很容易地从 $j \ge 3$ $s=1, 2, \ldots, j$

B_{n}^{2} = H (n, 1) - H (n, 2) \sim \log (n)

$B_n^2 = H(n,1) - H(n,2) \sim \log(n)$

那

b (1, j) \sim (\log (n))^{1 - j / 2} \to 0

$b(1,j) \sim (\log(n))^{1-j/2}\to 0$

和（对于） $s \gt 1$

b (s, j) \sim (\log (n))^{- j / 2} \to 0

$b(s,j) \sim (\log(n))^{-j/2}\to 0$

随着变大。因此，超过的展开中的所有项都收敛为零，因此，对于任何值，收敛到。由于cgf的收敛意味着特征函数的收敛，因此我们根据Levy连续性定理得出结论：接近cgf为的随机变量：即标准正态变量QED。 $n$ $\psi_n(t)$ $t^2$ $\psi_n(t)$ $t^2/2$ $t$ $S_n/B_n$ $t^2/2$

该分析揭示了收敛的精确程度：而在许多种形式的中心极限定理中，的系数为（对于），此处的系数为仅：收敛要慢得多。 $t^j$ $O(n^{1-j/2})$ $j \ge 3$ $O(((\log(n))^{1-j/2})$

我们可以在一系列仿真中看到这种缓慢的收敛。 直方图显示四个值的独立迭代。红色曲线是用于视觉参考的标准法线密度函数的图形。尽管显然存在逐渐趋于正常的趋势，但即使在（其中仍可观），仍然存在明显的非正常性，如偏度所证明的那样（在此示例中等于）。（毫不奇怪，此直方图的偏度接近 -1/2，因为这正是cgf中的项。） $10^5$ $n$ $n=1000$ $(\log(n))^{-1/2} \approx 0.38$ $0.35$ $(\log(n))^{-1/2}$ $t^3$

这是R想要进一步实验的人的代码。

set.seed(17)
par(mfrow=c(1,4))
n.iter <- 1e5
for(n in c(30, 100, 300, 1000)) {
  B.n <- sqrt(sum(rev((((1:n)-1) / (1:n)^2))))
  x <- matrix(rbinom(n*n.iter, 1, 1/(1:n)), nrow=n, byrow=FALSE)
  z <- colSums(x - 1/(1:n)) / B.n
  hist(z, main=paste("n =", n), freq=FALSE, ylim=c(0, 1/2))
  curve(dnorm(x), add=TRUE, col="Red", lwd=2)
}

— ub
source

6

您已经有了一个很好的答案。如果您也想完成自己的证明，则可以提出如下论点：

由于对于所有都收敛而对于发散（此处），我们可以写 $\sum_{k=1}^n 1/k^i$ $i>1$ $i = 1$

\begin{aligned} S (n) := \sum_{k = 1}^{n} (\frac{1}{k} - \frac{3}{k^{2}} + \frac{4}{k^{3}} - \frac{3}{k^{4}}) = \sum_{k = 1}^{n} \frac{1}{k} + O (1) . \end{aligned}

$\begin{align}S(n):=\sum_{k=1}^n\left(\frac{1}{k} - \frac{3}{k^2} + \frac{4}{k^3} - \frac{3}{k^4} \right) = \sum_{k=1}^n\frac{1}{k} + O(1). \end{align}$

出于同样的理由，

B_{n}^{2} = \sum_{k = 1}^{n} \frac{1}{k} + O (1) .

$B^2_n = \sum_{k=1}^n\frac{1}{k} + O(1).$

因此，，因此， $S(n) / B_n^2 = O(1)$

S (n) / B_{n}^{3} = O (1) (B_{n}^{2})^{- 1 / 2} \to 0,

$S(n)/B_n^3 = O(1)(B_n^2)^{-1/2} \to 0,$

这就是我们想要展示的。

— 埃克瓦尔
source

2

首先，如果分布取决于，则您的随机变量分布不相同；） $k$

另外，我不会将您的表示法用作： $B_n$

大写字母通常保留给随机变量。
它只是方差的总和，因此我将使用涉及符号的表示法来使这一点显而易见。 $\sigma$

然后关于这个问题，我不知道这是一项练习还是一项研究，以及您可以使用哪些工具。如果您不打算重新证明已知定理，那么我只是说这是独立的不等分布但有界的RV的中心极限定理，称其为天。我手头没有很好的消息来源，但找一个消息来源应该不难，例如，请参阅/mathpro/29508/is-there-a-central-limit-theorem-为有界的非同一分布的随机数。

编辑：我的错，当然，均匀边界条件是不够的，您还需要

\sum_{k = 1}^{n} σ_{k}^{2} \to \infty

$\sum_{k=1}^n \sigma_k^2 \to \infty$

— 阿德里安
source