具有可参数化协方差矩阵的正k维象限的分布是什么？

继zzk关于其负模拟问题的问题之后，我想知道正k维象限上的参数化分布族是什么，可以为其设置协方差矩阵。 $\mathbb{R}_+^k$ $\Sigma$

如zzk所讨论的那样，从的分布开始并应用线性变换不起作用。 $\mathbb{R}_+^k$ $X \longrightarrow\Sigma^{1/2} (X-\mu) + \mu$

distributions multivariate-analysis covariance

— 西安
source

Answers:

假设我们有一个多变量正态随机向量与和全秩对称正定矩阵。

(\log X_{1}, \dots, \log X_{k}) \sim N (μ, Σ),

$(\log X_1,\dots,\log X_k) \sim N(\mu,\Sigma) \, ,$

μ \in R^{k}

$\mu\in\mathbb{R}^k$

k \times k

$k\times k$

Σ = (σ_{i j})

$\Sigma=(\sigma_{ij})$

对于对数正态，不难证明 $(X_1,\dots,X_k)$

m_{i} := E [X_{i}] = e^{μ_{i} + σ_{i i} / 2}, i = 1, \dots, k,

$m_i := \textrm{E}[X_i] = e^{\mu_i + \sigma_{ii}/2} \, , \quad i=1,\dots,k\, ,$

c_{i j} := Cov [X_{i}, X_{j}] = m_{i} m_{j} (e^{σ_{i j}} - 1), i, j = 1, \dots, k,

$c_{ij} := \textrm{Cov}[X_i,X_j] = m_i \,m_j \,(e^{\sigma_{ij}} - 1) \, , \quad i,j=1,\dots,k\, ,$

然后是。 $c_{ij}>-m_im_j$

因此，我们可以提出相反的问题：给定和对称正定矩阵，满足，如果让我们将得到一个具有规定均值和协方差的对数正态向量。 $m=(m_1,\dots,m_k)\in\mathbb{R}^k_+$ $k\times k$ $C=(c_{ij})$ $c_{ij}>-m_im_j$

μ_{i} = \log m_{i} - \frac{1}{2} \log (\frac{c_{i i}}{m_{i}^{2}} + 1), i = 1, \dots, k,

$\mu_i = \log m_i - \frac{1}{2} \log\left(\frac{c_{ii}}{m_i^2} + 1 \right) \, , \quad i=1,\dots,k \, ,$

σ_{i j} = \log (\frac{c_{i j}}{m_{i} m_{j}} + 1), i, j = 1, \dots, k,

$\sigma_{ij} = \log\left(\frac{c_{ij}}{m_i m_j} + 1 \right) \, , \quad i,j=1,\dots,k \, ,$

对和的约束等效于自然条件。 $C$ $m$ $\textrm{E}[X_i X_j]>0$

— 禅
source

太棒了，保罗！您在协方差矩阵上得到了可行的解决方案和适当的条件，这也回答了这个问题。最终，对数正态证明比伽玛更方便。

— 西安

实际上，我绝对有行人解决方案。

以开头，然后选择两个参数以适合，。 $X_1\sim \text{Ga}(\alpha_{11},\beta_{1})$ $\mathbb{E}[X_1]$ $\text{var}(X_1)$
取并选择三个参数以适合，和。 $X_2|X_1\sim \text{Ga}(\alpha_{21}X_1+\alpha_{22},\beta_{2})$ $\mathbb{E}[X_2]$ $\text{var}(X_2)$ $\text{cov}(X_1,X_2)$
取并选择四个参数以适合的值，，和。 $X_3|X_1,X_2\sim \text{Ga}(\alpha_{31}X_1+\alpha_{32}X_2+\alpha_{33},\beta_{3})$ $\mathbb{E}[X_3]$ $\text{var}(X_3)$ $\text{cov}(X_1,X_3)$ $\text{cov}(X_2,X_3)$

等等...但是，考虑到参数的约束和力矩方程的非线性性质，可能是某些力矩集对应于不可接受的参数集。

例如，当，我得出方程组 $k=2$

β_{1} = μ_{1} / σ_{1}^{2}, α_{11} - μ_{1} β_{1} = 0

$\beta_1 =\mu_1/\sigma_1^2\,,\quad \alpha_{11}-\mu_1\beta_1 =0$

α_{22} = μ_{2} β_{2} - α_{21} μ_{1}, α_{21} = \frac{(σ_{12} + μ_{1} μ_{2} - μ_{2})}{σ_{1}^{2} + μ_{1}^{2} - μ_{1}} β_{2}

$\alpha_{22} = \mu_2\beta_2 - \alpha_{21}\mu_1\,,\quad \alpha_{21} = \dfrac{(\sigma_{12}+\mu_1\mu_2-\mu_2)}{\sigma^2_1+\mu_1^2- \mu_1}\beta_2$

\frac{(σ_{12} + μ_{1} μ_{2} - μ_{2})^{2}}{(σ_{1}^{2} + μ_{1}^{2} - μ_{1})^{2}} σ_{1}^{2} + \frac{μ_{2}}{β_{2}} = σ_{2}^{2} .

$\dfrac{(\sigma_{12}+\mu_1\mu_2-\mu_2)^2}{(\sigma^2_1+\mu_1^2- \mu_1)^2} \sigma_1^2 + \dfrac{\mu_2}{\beta_2} = \sigma^2_2\,.$ 以和任意（和先验可接受）值运行R代码导致许多情况下没有解决方案。再次，这并不意味着什么，因为上的分布的相关矩阵可能具有更强的限制，而仅仅是纯粹的行列式。

μ

$\mu$

Σ

$\Sigma$

R_{+}^{2}

$\mathbb{R}_+^2$

更新（04/04）： Deinst 在数学论坛上将此问题重新表述为一个新问题。

— 西安
source

略微扩展此范围的一种方法是考虑自然指数族那么均值和协方差就是的梯度和Hessian 。如果是多项式（实数> -1），则是多项式的对数（实数），方差和Hessian是有理函数。我认为这给了足够的自由来表示任何均值和协方差矩阵。

f (X | θ) = h (x) e^{θ^{T} X - A (θ)} .

$f(\mathbf{X}|\mathbf\theta)=h(\mathbf{x})e^{\mathbf\theta^T\mathbf{X}-A(\mathbf\theta)}.$

A

$A$

h

$h$

A

$A$

— deinst 2012年

@deinst：（+1）您是否有一个示例可以直接利用此指数族表示形式？

— 西安，

也许我不太了解这个问题。但是，请考虑具有相同边际且在上具有完全支持且均值的双变量随机向量。例如，这样的二元分布如何使相关性接近-1？试探性地，尽管我没有执行此操作，但是，如果，那么关于支持的矛盾必定会出现。没有？

(X, Y)

$(X,Y)$

F

$F$

R_{+}

$\mathbb R_{+}$

0 < μ < \infty

$0 < \mu < \infty$

ρ

$\rho$

P (X > 2 μ) > 0

$\mathbb P(X > 2 \mu) > 0$

— 主教

当支持为，协方差矩阵肯定存在约束，并通过Stieltjes矩条件覆盖。无论如何，我看不出为什么先验地排除了接近-1的相关性。

Σ

$\Sigma$

R_{+}^{k}

$\mathbb{R}^k_+$

— 西安

是的，这与我的理解有关。关于相关性，请考虑我的示例。如果和具有相同的边际且均值且正相关为-1并且，那么对于所有此类实现，的值必须是什么？（问题和答案均为+1。我喜欢这个。）

X

$X$

Y

$Y$

F

$F$

μ

$\mu$

P (X > 2 μ) > 0

$\mathbb P(X > 2 \mu) > 0$

Y

$Y$

X

$X$

— 红衣主教

好的，这是对西安的评论的回应。它太长了，必须进行大量TeX处理才能发表自如。注意事项：几乎可以肯定，我犯了一个代数错误。这似乎没有我最初想到的那么灵活。

让我们在中创建一个分布族，形式为令和。令是一个两项多项式，其中是所有都大于0的实数。然后我们发现 $\mathbb{R}_+^3$

f (x | θ) = h (x) e^{- θ^{T} x - A (θ)}

$f(\mathbf{x}|\mathbf\theta)=h(\mathbf{x})e^{-\mathbf\theta^T\mathbf{x}-A(\mathbf\theta)}$

x = (x, y, z)

$\mathbf{x}=(x,y,z)$

θ = (θ_{1}, θ_{2}, θ_{3})

$\mathbf\theta=(\theta_1,\theta_2,\theta_3)$

h (x) = c x_{1}^{e_{1} - 1} x_{2}^{e_{2} - 1} x_{3}^{e_{3} - 1} + d x_{1}^{f_{1} - 1} x_{2}^{f_{2} - 1} x_{3}^{f_{3} - 1}

$h(\mathbf{x})=c x_1^{e_1-1}x_2^{e_2-1}x_3^{e_3-1}+d x_1^{f_1-1}x_2^{f_2-1}x_3^{f_3-1}$

e_{i}, f_{i}

$e_i, f_i$

i

$i$

A (θ) = \log (c \frac{Γ (e_{1})}{θ_{1}^{e_{1}}} \frac{Γ (e_{2})}{θ_{2}^{e_{2}}} \frac{Γ (e_{3})}{θ_{3}^{e_{3}}} + d \frac{Γ (f_{1})}{θ_{1}^{f_{1}}} \frac{Γ (f_{2})}{θ_{2}^{f_{2}}} \frac{Γ (f_{3})}{θ_{3}^{f_{3}}}) .

$A(\mathbf\theta)=\log\left(c\frac{\Gamma(e_1)}{\theta_1^{e_1}}\frac{\Gamma(e_2)}{\theta_2^{e_2}}\frac{\Gamma(e_3)}{\theta_3^{e_3}}+d\frac{\Gamma(f_1)}{\theta_1^{f_1}}\frac{\Gamma(f_2)}{\theta_2^{f_2}}\frac{\Gamma(f_3)}{\theta_3^{f_3}}\right).$

现在，为方便起见，让我们定义和

c^{'} = c Γ (e_{1}) Γ (e_{2}) Γ (e_{2}) θ_{1}^{f_{1}} θ_{2}^{f_{2}} θ_{3}^{f_{3}}

$c'=c\Gamma(e_1)\Gamma(e_2)\Gamma(e_2)\theta_1^{f_1}\theta_2^{f_2}\theta_3^{f_3}$

d^{'} = d Γ (f_{1}) Γ (f_{2}) Γ (f_{2}) θ_{1}^{e_{1}} θ_{2}^{e_{2}} θ_{3}^{e_{3}}

$d'=d\Gamma(f_1)\Gamma(f_2)\Gamma(f_2)\theta_1^{e_1}\theta_2^{e_2}\theta_3^{e_3}$

现在，由于分布的均值为的梯度，因此，和。并且由于协方差是的Hessian ，我们有和（协方差矩阵的其他项是通过以明显的方式更改下标而获得的）。 $A$ $\mu_X=\frac{e_1c'+f_1d'}{\theta_1(c'+d')}$ $\mu_Y=\frac{e_2c'+f_2d'}{\theta_2(c'+d')}$ $\mu_Z=\frac{e_3c'+f_3d'}{\theta_3(c'+d')}$ $A$

σ_{X}^{2} = \frac{(e_{1} c^{'} + f_{1} d^{'}) (c^{'} + d^{'}) + (e_{1} - f_{1})^{2} c^{'} d^{'}}{θ_{1}^{2} (c^{'} + d^{'})^{2}}

$\sigma_X^2=\frac{(e_1c'+f_1d')(c'+d')+(e_1-f_1)^2c'd'}{\theta_1^2(c'+d')^2}$

Cov (X, Y) = \frac{(e_{1} - f_{1}) (e_{2} - f_{2}) c^{'} d^{'}}{θ_{1} θ_{2} (c^{'} + d^{'})}

$\text{Cov}(X,Y)=\frac{(e_1-f_1)(e_2-f_2)c'd'}{\theta_1\theta_2(c'+d')}$

似乎没有足够的灵活性来获取任何协方差矩阵。我需要尝试多项式中的另一个项（但我怀疑这可能也不起作用（显然我需要对此进行更多考虑））。

— 定义
source

五个约束的四个参数 ...？

(θ_{1}, θ_{2}, θ_{3}, c)

$(\theta_1,\theta_2,\theta_3,c)$

— 西安

@xian还有6个指数和。

e_{i}

$e_i$

f_{i}

$f_i$

— deinst 2012年

我有些困惑（？）：您没有将指数作为指数族的参数进行处理。但是实际上，您可以根据自己的意愿更改这些能力，以正确设置9矩方程。

— 西安

@西安您是正确的，我没有将它们作为指数族的参数进行处理。这样做将使这个家庭不再是自然家庭，包括他们在内，将使代数方程的计算方程变得混乱（从一开始就被混淆）。

— deinst'Apr