非iid高斯变量之和的分布是什么？

如果分布，分布并且，我知道分布如果X和Y独立，则。 $X$ $N(\mu_X, \sigma^2_X)$ $Y$ $N(\mu_Y, \sigma^2_Y)$ $Z = X + Y$ $Z$ $N(\mu_X + \mu_Y, \sigma^2_X + \sigma^2_Y)$

但是如果X和Y不是独立的，即 $(X, Y) \approx N\big( (\begin{smallmatrix} \mu_X\\\mu_Y \end{smallmatrix}) , (\begin{smallmatrix} \sigma^2_X && \sigma_{X,Y}\\ \sigma_{X,Y} && \sigma^2_Y \end{smallmatrix}) \big)$

这会影响总和的分布方式吗？ $Z$

normal-distribution mathematical-statistics

— 王健
source

只是想指出的是，也有联合发行的各种等较二元正仍然有和稍微正常。这种区别将对答案产生巨大的影响。

(X, Y)

$(X,Y)$

X

$X$

Y

$Y$

@ G.JayKerns我同意，如果和是正态的，但不一定共同是正态的，那么可以具有除正态之外的分布。但是OP声明“ 如果和是独立的，则分布 ”。是绝对正确的。如果和在边际上是正常的（如句子的第一部分所述）并且是独立的（按照句子的第二部分的假设），则它们也共同是正常的。在OP的问题，联合常态假设明确，因此任何的线性组合

X

$X$

Y

$Y$

X + Y

$X+Y$

Z

$Z$

N (μ_{x} + μ_{y}, σ_{x}^{2} + σ_{y}^{2})

$N(\mu_x + \mu_y, \sigma^2_x + \sigma^2_y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X

$X$ 和是正常的。

Y

$Y$

— Dilip Sarwate

@Dilip，请让我清楚，问题没有错，您的答案（+1）（或概率为（+1））也没有问题。我只是简单地指出，如果和是从属的，那么它们并不一定是正常的，并且不清楚OP是否考虑了这种可能性。另外，我担心（尽管我没有花很多时间思考）如果没有其他假设（例如联合常态性），该问题甚至可能无法回答。

X

$X$

Y

$Y$

正如@ G.JayKerns所提到的，如果我们只考虑边际而不是联合的分布法线，那么我们当然可以得到各种各样有趣的行为。这是一个简单的示例：令为标准正态，，概率分别为1/2，与无关。设。然后，也是标准法线，但是以1/2的概率正好等于零，并且以1/2的概率等于。

X

$X$

ε = \pm 1

$\varepsilon = \pm 1$

X

$X$

Y = ε X

$Y = \varepsilon X$

Y

$Y$

Z = X + Y

$Z = X+Y$

2 X

$2X$

— 主教

通过考虑通过Sklar定理与关联的双变量copula，我们可以得到各种各样的不同行为。如果我们使用高斯copula，那么我们得到的是联合正态的，因此是正态分布的。如果联接子不是高斯联接子，则和仍分别作为法线微不足道地分布，但不是共同正态的，因此总的来说，总和将不会呈正态分布。

(X, Y)

$(X,Y)$

(X, Y)

$(X,Y)$

Z = X + Y

$Z = X + Y$

X

$X$

Y

$Y$

— 主教

Answers:

请参阅我对概率论对此问题的回答的评论。在这里，其中是协方差的和。像您所做的那样，没人会在协方差矩阵中将非对角线条目写为。非对角线条目是可以为负的协方差。

\begin{aligned} X + Y & \sim N (μ_{X} + μ_{Y}, σ_{X}^{2} + σ_{Y}^{2} + 2 σ_{X, Y}) \\ a X + b Y & \sim N (a μ_{X} + b μ_{Y}, a^{2} σ_{X}^{2} + b^{2} σ_{Y}^{2} + 2 a b σ_{X, Y}) \end{aligned}

$\begin{align*} X + Y &\sim N(\mu_X + \mu_Y,\; \sigma_X^2 + \sigma_Y^2 + 2\sigma_{X,Y})\\ aX + bY &\sim N(a\mu_X + b\mu_Y,\; a^2\sigma_X^2 + b^2\sigma_Y^2 + 2ab\sigma_{X,Y}) \end{align*}$

σ_{X, Y}

$\sigma_{X,Y}$

X

$X$

Y

$Y$

σ_{x y}^{2}

$\sigma_{xy}^2$

— 迪利普·萨瓦特（Dilip Sarwate）
source

@Kodiologist谢谢！令我惊讶的是，输入错误已超过4年了。

— Dilip Sarwate

@dilip的答案就足够了，但是我只是想添加一些有关如何获得结果的细节。我们可以使用特征函数的方法。对于任何维多元正态分布，其中和，特征函数由下式给出： $d$ $X\sim N_{d}(\mu,\Sigma)$ $\mu=(\mu_1,\dots,\mu_d)^T$ $\Sigma_{jk}=cov(X_j,X_k)\;\;j,k=1,\dots,d$

φ_{X} (t) = E [\exp (i t^{T} X)] = \exp (i t^{T} μ - \frac{1}{2} t^{T} Σ t)

$\varphi_{X}({\bf{t}})=E\left[\exp(i{\bf{t}}^TX)\right]=\exp\left(i{\bf{t}}^T\mu-\frac{1}{2}{\bf{t}}^T\Sigma{\bf{t}}\right)$

= \exp (i \sum_{j = 1}^{d} t_{j} μ_{j} - \frac{1}{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} t_{j} t_{k} Σ_{j k})

$=\exp\left(i\sum_{j=1}^{d}t_j\mu_j-\frac{1}{2}\sum_{j=1}^{d}\sum_{k=1}^{d}t_jt_k\Sigma_{jk}\right)$

对于一维正态变量我们得到： $Y\sim N_1(\mu_Y,\sigma_Y^2)$

φ_{Y} (t) = \exp (i t μ_{Y} - \frac{1}{2} t^{2} σ_{Y}^{2})

$\varphi_Y(t)=\exp\left(it\mu_Y-\frac{1}{2}t^2\sigma_Y^2\right)$

现在，假设我们定义了一个新的随机变量。对于您的情况，我们有和。的特征函数与的特征函数基本相同。 $Z={\bf{a}}^TX=\sum_{j=1}^{d}a_jX_j$ $d=2$ $a_1=a_2=1$ $Z$ $X$

φ_{Z} (t) = E [\exp (i t Z)] = E [\exp (i t a^{T} X)] = φ_{X} (t a)

$\varphi_{Z}(t)=E\left[\exp(itZ)\right]=E\left[\exp(it{\bf{a}}^TX)\right]=\varphi_{X}(t{\bf{a}})$

= \exp (i t \sum_{j = 1}^{d} a_{j} μ_{j} - \frac{1}{2} t^{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} a_{j} a_{k} Σ_{j k})

$=\exp\left(it\sum_{j=1}^{d}a_j\mu_j-\frac{1}{2}t^2\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}\right)$

如果将这个特征函数与特征函数我们会发现它们是相同的，但是被和被。因此，因为的特征函数等于的特征函数，所以分布也必须相等。因此是正态分布的。我们可以通过注意来简化方差的表达式，得到： $\varphi_Y(t)$ $\mu_Y$ $\mu_Z=\sum_{j=1}^{d}a_j\mu_j$ $\sigma_Y^2$ $\sigma^2_Z=\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}$ $Z$ $Y$ $Z$ $\Sigma_{jk}=\Sigma_{kj}$

σ_{Z}^{2} = \sum_{j = 1}^{d} a_{j}^{2} Σ_{j j} + 2 \sum_{j = 2}^{d} \sum_{k = 1}^{j - 1} a_{j} a_{k} Σ_{j k}

$\sigma^2_Z=\sum_{j=1}^{d}a_j^2\Sigma_{jj}+2\sum_{j=2}^{d}\sum_{k=1}^{j-1}a_ja_k\Sigma_{jk}$

这也是任意随机变量集的线性组合的方差的一般公式，无论独立与否，正常与否，其中和。现在，如果我们专门研究和，则上述公式变为： $\Sigma_{jj}=var(X_j)$ $\Sigma_{jk}=cov(X_j,X_k)$ $d=2$ $a_1=a_2=1$

σ_{Z}^{2} = \sum_{j = 1}^{2} (1)^{2} Σ_{j j} + 2 \sum_{j = 2}^{2} \sum_{k = 1}^{j - 1} (1) (1) Σ_{j k} = Σ_{11} + Σ_{22} + 2 Σ_{21}

$\sigma^2_Z=\sum_{j=1}^{2}(1)^2\Sigma_{jj}+2\sum_{j=2}^{2}\sum_{k=1}^{j-1}(1)(1)\Sigma_{jk}=\Sigma_{11}+\Sigma_{22}+2\Sigma_{21}$

— 概率逻辑
source

+1感谢您抽出宝贵时间写出详细信息。可以将此问题纳入常见问题解答吗？

— Dilip Sarwate