Iid Gamma变量的总和

令为具有概率密度函数的独立且均匀分布的随机变量的序列；显示 $X_1,X_2,\ldots$

f (x) = {\begin{cases} \frac{1}{2} x^{2} e^{- x} & if x > 0; \\ 0 & otherwise . \end{cases}

$f(x) = \left\{ \begin{array}{ll} \frac{1}{2}x^2 e^{-x} & \mbox{if $x>0$};\\ 0 & \mbox{otherwise}.\end{array} \right.$

lim_{n \to \infty} P [X_{1} + X_{2} + \dots + X_{n} \geq 3 (n - \sqrt{n})] \geq \frac{1}{2}

$\lim_{n\to \infty} P[X_1+X_2+\ldots+X_n\ge 3(n-\sqrt{n})] \ge \frac{1}{2}$

我尝试过的

乍一看，我认为应该使用切比雪夫不等式，因为问题是要求显示下限 $X_1+X_2+\ldots +X_n$ 。但是，我想到了极限符号，该符号清楚地表明该问题可能与中央极限定理（CLT）有关

令 $S_n=X_1+X_2+\ldots +X_n$

E (S_{n}) = \sum_{i = 0}^{n} E (X_{i}) = 3 n (since E (X_{i}) = 3) V (S_{n}) = \sum_{i = 0}^{n} V (X_{i}) = 3 n (since V (X_{i}) = 3 and X_{i} are i.i.d)

$E(S_n)=\sum_{i=0}^{n} E(X_i)=3n \ (\text{since } E(X_i)=3) \\ V(S_n)=\sum_{i=0}^{n} V(X_i)=3n \ (\text{since } V(X_i)=3 \text{ and } X_i \text{ are i.i.d})$

现在，使用CLT，对于大 $n$ ， $X_1+X_2+........+X_n \sim N(3n,3n)$
或

z = \frac{S_{n} - 3 n}{\sqrt{3 n}} \sim N (0, 1) as n \to \infty

$z=\frac{S_n-3n}{\sqrt{3n}} \sim N(0,1) \text{ as } n\to \infty$

现在，

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] = lim_{n \to \infty} P (S_{n} - 3 n \geq - 3 \sqrt{n}) = lim_{n \to \infty} P (\frac{S_{n} - 3 n}{\sqrt{3 n}} \geq - \sqrt{3}) = P (z \geq - \sqrt{3}) = P (- \sqrt{3} \leq z < 0) + P (z \geq 0) = P (- \sqrt{3} \leq z < 0) + \frac{1}{2} \dots (1)

$\lim_\limits{n\to \infty} P[X_1+X_2+........+X_n\ge 3(n-\sqrt{n})] = \lim_\limits{n\to \infty}P(S_n-3n \ge -3\sqrt{n}) = \lim_\limits{n\to \infty} P\left(\frac{S_n-3n}{\sqrt{3n}} \ge -\sqrt{3}\right) =P(z\ge -\sqrt{3}) =P\left(-\sqrt{3}\le z<0\right)+P(z\ge 0 ) =P\left(-\sqrt{3}\le z<0\right)+\frac{1}{2}\cdots(1)$

由于 $P(-\sqrt{3}\le z<0) \ge 0$ ，因此从 $(1)$ ，

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] \geq \frac{1}{2}

$\lim_\limits{n\to \infty} P[X_1+X_2+........+X_n\ge 3(n-\sqrt{n})]\ge \frac{1}{2}$

我对么？

probability self-study

CLT似乎是一种合理的方法，但“ “没有道理..

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] = P (S_{n} - 3 n \geq - 3 \sqrt{n})

$\lim_\limits{n\to \infty} P[X_1+X_2+........+X_n\ge 3(n-\sqrt{n})] =P(S_n-3n \ge -3\sqrt{n})$

— P.Windridge 18-4-25

我认为应该是

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] = lim_{n \to \infty} P (S_{n} - 3 n \geq - 3 \sqrt{n}) = lim_{n \to \infty} P (\frac{S_{n} - 3 n}{\sqrt{3 n}} \geq - \sqrt{3}) = P (z \geq - \sqrt{3})

作为替代方案，请考虑iid 然后考虑。的中值伽玛随机变量的未封闭的形式公知的，但它是已知的（参见维基百科），对于大，一个的中值随机变量在于之间和。由于，必须至少有一半的概率质量位于的右边。

X_{i} \sim Γ (3, 1)

$X_i \sim\Gamma(3,1)$

X_{1} + X_{2} + \cdot + X_{n} \sim Γ (3 n, 1)

$X_1+X_2+\cdot+X_n \sim \Gamma(3n,1)$

n

$n$

Γ (3 n, 1)

$\Gamma(3n,1)$

3 n - \frac{1}{3}

$3n-\frac 13$

3 n

$3n$

3 (n - \sqrt{n}) < 3 n - \frac{1}{3}

$3(n-\sqrt{n}) < 3n-\frac 13$

3 (n - \sqrt{n})

$3(n-\sqrt{n})$

— Dilip Sarwate

Answers:

你是正确的，切比雪夫不等式会起作用。 它提供了适用于许多此类序列的某种粗略但有效的界限，表明该序列的关键特征是部分和的方差最大随线性增长。 $n$

然后，考虑具有均值和有限方差的不相关变量的任何序列的极端一般情况令为它们的前和 $X_i$ $\mu_i$ $\sigma_i^2.$ $Y_n$ $n$

Y_{n} = \sum_{i = 1}^{n} X_{i} .

$Y_n = \sum_{i=1}^n X_i.$

因此，的平均值为 $Y_n$

m_{n} = \sum_{i = 1}^{n} μ_{n}

$m_n = \sum_{i=1}^n \mu_n$

它的方差是

s_{n}^{2} = Var (Y_{n}) = \sum_{i = 1}^{n} Var (X_{i}) + 2 \sum_{j > i} Cov (X_{i}, X_{j}) = \sum_{i = 1}^{n} σ_{i}^{2} .

$s_n^2 = \operatorname{Var}(Y_n) = \sum_{i=1}^n \operatorname{Var}(X_i) + 2\sum_{j > i}\operatorname{Cov}(X_i,X_j) = \sum_{i=1}^n \sigma_i^2.$

假设最多随线性增长： $s_n^2$ $n$ 也就是说，存在一个，使得对于所有足够大的令（尚待确定），观察到 $\lambda\gt 0$ $n,$ $s_n^2 \le \lambda^2 n.$ $k\gt 0$

m - k \sqrt{n} \leq m - \frac{k}{λ} s_{n},

$m - k \sqrt{n} \le m - \frac{k}{\lambda}s_n,$

并将Chebyshev不等式应用于以获得 $Y_n$

\begin{aligned} Pr (Y_{n} \geq m_{n} - k \sqrt{n}) & \geq Pr (Y_{n} \geq m_{n} - \frac{k}{λ} s_{n}) \\ \geq Pr (| Y_{n} - m_{n} | \leq \frac{k}{λ} s_{n}) \\ \geq 1 - \frac{λ^{2}}{k^{2}} . \end{aligned}

$\eqalign{ \Pr(Y_n \ge m_n - k\sqrt{n}) &\ge \Pr(Y_n \ge m_n - \frac{k}{\lambda}s_n) \\ &\ge \Pr(|Y_n - m_n| \le \frac{k}{\lambda} s_n) \\ &\ge 1 - \frac{\lambda^2}{k^2}. }$

前两个不等式是基本的：它们紧随其后，因为每个连续事件都是前一个不等式的子集。

在当前情况下，如果是独立的（因此不相关），均值且方差则和 $X_i$ $\mu_i=3$ $\sigma_i^2=3,$ $m_n=3n$

s_{n} = \sqrt{3} \sqrt{n},

$s_n = \sqrt{3}\sqrt{n},$

因此，我们可以将为问题对应于其中 $\lambda$ $\sqrt{3}.$ $3(n-\sqrt{n}) = \mu_n - 3\sqrt{n}$ $k=3,$

Pr (Y_{n} \geq 3 n - 3 \sqrt{n}) \geq 1 - \frac{{\sqrt{3}}^{2}}{3^{2}} = \frac{2}{3} > \frac{1}{2},

$\Pr(Y_n \ge 3n - 3\sqrt{n}) \ge 1 - \frac{\sqrt{3}^{\ 2}}{3^2} = \frac{2}{3}\gt \frac{1}{2},$

QED。

— ub
source

作为whuber出色答案的替代方法，我将尝试得出有关概率的确切限制。伽玛分布的特性之一是具有相同比率/比例参数的独立伽玛随机变量的总和也是形状等于那些变量的形状总和的伽玛随机变量。（使用分布的生成函数可以很容易地证明这一点。）在当前情况下，我们有，因此我们得到了总和： $X_1,...X_n \sim \text{IID Gamma}(3,1)$

S_{n} \equiv X_{1} + \dots + X_{n} \sim Gamma (3 n, 1) .

$S_n \equiv X_1 + \cdots + X_n \sim \text{Gamma}(3n, 1).$

因此，我们可以使用伽玛分布的CDF来写下感兴趣的确切概率。令表示形状参数，而表示感兴趣的自变量，我们有： $a = 3n$ $x = 3(n-\sqrt{n})$

\begin{aligned} H (n) & \equiv P (S_{n} \geq 3 (n - \sqrt{n})) \\ = \frac{Γ (a, x)}{Γ (a)} \\ = \frac{a Γ (a)}{a Γ (a) + x^{a} e^{- x}} \cdot \frac{Γ (a + 1, x)}{Γ (a + 1)} . \end{aligned}

$\begin{equation} \begin{aligned} H(n) &\equiv \mathbb{P}(S_n \geq 3(n-\sqrt{n})) \\[12pt] &= \frac{\Gamma(a, x)}{\Gamma(a)} \\[6pt] &= \frac{a \Gamma(a)}{a \Gamma(a) + x^a e^{-x}} \cdot \frac{\Gamma(a+1, x)}{\Gamma(a+1)}. \\[6pt] \end{aligned} \end{equation}$

为了找到该概率的极限，我们首先要注意，我们可以将第一个参数写成，其中。使用Temme（1975）（Eqn 1.4，p。1109）中显示的结果，我们具有渐近等价性： $x = a + \sqrt{2a} \cdot y$ $y = -\sqrt{3/2}$

\begin{aligned} \frac{Γ (a + 1, x)}{Γ (a + 1)} & \sim \frac{1}{2} + \frac{1}{2} \cdot erf (- y) + \sqrt{\frac{2}{9 a π}} (1 + y^{2}) \exp (- y^{2}) . \end{aligned}

$\begin{aligned} \frac{\Gamma(a+1, x)}{\Gamma(a+1)} &\sim \frac{1}{2} + \frac{1}{2} \cdot \text{erf}(-y) + \sqrt{\frac{2}{9a \pi}} (1+y^2) \exp( - y^2). \end{aligned}$

使用斯特林近似和指数数的极限定义，还可以证明：

\begin{aligned} \frac{a Γ (a)}{a Γ (a) + x^{a} e^{- x}} & \sim \frac{\sqrt{2 π} \cdot a \cdot (a - 1)^{a - 1 / 2}}{\sqrt{2 π} \cdot a \cdot (a - 1)^{a - 1 / 2} + x^{a} \cdot e^{a - x - 1}} \\ = \frac{\sqrt{2 π} \cdot a \cdot (1 - \frac{1}{a})^{a - 1 / 2}}{\sqrt{2 π} \cdot a \cdot (1 - \frac{1}{a})^{a - 1 / 2} + \sqrt{x} \cdot (\frac{x}{a})^{a - 1 / 2} \cdot e^{a - x - 1}} \\ = \frac{\sqrt{2 π} \cdot a \cdot e^{- 1}}{\sqrt{2 π} \cdot a \cdot e^{- 1} + \sqrt{x} \cdot e^{x - a} \cdot e^{a - x - 1}} \\ = \frac{\sqrt{2 π} \cdot a}{\sqrt{2 π} \cdot a + \sqrt{x}} \\ \sim \frac{\sqrt{2 π a}}{\sqrt{2 π a} + 1} . \end{aligned}

$\begin{aligned} \frac{a \Gamma(a)}{a \Gamma(a) + x^a e^{-x}} &\sim \frac{\sqrt{2 \pi} \cdot a \cdot (a-1)^{a-1/2}}{\sqrt{2 \pi} \cdot a \cdot (a-1)^{a-1/2} + x^a \cdot e^{a-x-1}} \\[6pt] &= \frac{\sqrt{2 \pi} \cdot a \cdot (1-\tfrac{1}{a})^{a-1/2}}{\sqrt{2 \pi} \cdot a \cdot (1-\tfrac{1}{a})^{a-1/2} + \sqrt{x} \cdot (\tfrac{x}{a})^{a-1/2} \cdot e^{a-x-1}} \\[6pt] &= \frac{\sqrt{2 \pi} \cdot a \cdot e^{-1}}{\sqrt{2 \pi} \cdot a \cdot e^{-1} + \sqrt{x} \cdot e^{x-a} \cdot e^{a-x-1}} \\[6pt] &= \frac{\sqrt{2 \pi} \cdot a}{\sqrt{2 \pi} \cdot a + \sqrt{x}} \\[6pt] &\sim \frac{\sqrt{2 \pi a}}{\sqrt{2 \pi a} + 1}. \\[6pt] \end{aligned}$

代入相关值，我们得到：

\begin{aligned} H (n) & = \frac{a Γ (a)}{a Γ (a) + x^{a} e^{- x}} \cdot \frac{Γ (a + 1, x)}{Γ (a + 1)} \\ \sim \frac{\sqrt{2 π a}}{\sqrt{2 π a} + 1} \cdot [\frac{1}{2} + \frac{1}{2} \cdot erf (\sqrt{\frac{3}{2}}) + \sqrt{\frac{2}{9 a π}} \cdot \frac{5}{2} \cdot \exp (\frac{3}{2})] . \end{aligned}

$\begin{equation} \begin{aligned} H(n) &= \frac{a \Gamma(a)}{a \Gamma(a) + x^a e^{-x}} \cdot \frac{\Gamma(a+1, x)}{\Gamma(a+1)} \\[6pt] &\sim \frac{\sqrt{2 \pi a}}{\sqrt{2 \pi a} + 1} \cdot \Bigg[ \frac{1}{2} + \frac{1}{2} \cdot \text{erf} \Big( \sqrt{\frac{3}{2}} \Big) + \sqrt{\frac{2}{9a \pi}} \cdot \frac{5}{2} \cdot \exp \Big( \frac{3}{2} \Big) \Bigg]. \\[6pt] \end{aligned} \end{equation}$

这给了我们极限：

lim_{n \to \infty} H (n) = \frac{1}{2} + \frac{1}{2} \cdot erf (\sqrt{\frac{3}{2}}) = 0.9583677.

$\lim_{n \rightarrow \infty} H(n) = \frac{1}{2} + \frac{1}{2} \cdot \text{erf} \Big( \sqrt{\frac{3}{2}} \Big) = 0.9583677.$

这为我们提供了感兴趣概率的确切限制，该限制大于一半。

— Ben-恢复莫妮卡
source