高斯过程和Wishart分布的协方差矩阵

我正在阅读有关广义Wishart流程（GWP）的本文。本文使用平方指数协方差函数计算不同随机变量之间的协方差（遵循高斯过程），即。然后说该协方差矩阵遵循GWP。 $K(x,x') = \exp\left(-\frac{|(x-x')|^2}{2l^2}\right)$

我曾经认为从线性协方差函数（） $K(x,x') = x^Tx'$ 计算出的协方差矩阵遵循具有适当参数的Wishart分布。

我的问题是，我们如何仍可以假设协方差服从具有平方指数协方差函数的Wishart分布？另外，一般来说，协方差函数产生Wishart分布协方差矩阵的必要条件是什么？

— 鱼
source

混合的是在定义高斯过程的环境空间方面的协方差规范，以及将有限维高斯随机变量转换为Wishart分布的运算。

如果是均值为0和协方差矩阵的维高斯随机变量（列向量），则的分布是Wishart分布。注意是一个矩阵。这是关于 二次形式 将高斯分布转换为Wishart分布的一般结果。它适用于任何正定协方差矩阵。如果您有iid观测值 $\mathbf{X} \sim \mathcal{N}(0, \Sigma)$ $p$ $\Sigma$ $\mathbf{W} = \mathbf{X} \mathbf{X}^T$ $W_p(\Sigma, 1)$ $\mathbf{W}$ $p \times p$

x \mapsto x x^{T}

$\mathbf{x} \mapsto \mathbf{x} \mathbf{x}^T$

Σ

$\Sigma$

X_{1}, \dots, X_{n}

$\mathbf{X}_1, \ldots, \mathbf{X}_n$ 那么的分布是一个Wishart。除以我们得到经验协方差矩阵的估计。

W_{i} = X_{i} X_{i}^{T}

$\mathbf{W}_i = \mathbf{X}_i \mathbf{X}_i^T$

W_{1} + \dots + W_{n}

$\mathbf{W}_{1} + \ldots + \mathbf{W}_n$

W_{p} (Σ, n)

$W_p(\Sigma, n)$

n

$n$

-

$-$

Σ

$\Sigma$

对于高斯过程，有一个环境空间，可以说它是，这样考虑的随机变量将由环境空间中的元素索引。也就是说，我们考虑一个过程。如果它的有限维边际分布是高斯，即对于所有。如OP所述，协方差函数的选择确定协方差矩阵，即 $\mathbb{R}$ $(X(x))_{x \in \mathbb{R}}$

X (x_{1}, \dots, x_{p}) := (X (x_{1}), \dots, X (x_{p}))^{T} \sim N (0, Σ (x_{1}, \dots, x_{p}))

$\mathbf{X}(x_1, \ldots, x_p) := (X(x_1), \ldots, X(x_p))^T \sim \mathcal{N}(0, \Sigma(x_1, \ldots, x_p))$

x_{1}, \dots, x_{p} \in R

$x_1, \ldots, x_p \in \mathbb{R}$

cov (X (x_{i}), X (x_{j})) = Σ (x_{1}, \dots, x_{p})_{i, j} = K (x_{i}, x_{j}) .

$\text{cov}(X(x_i), X(x_j)) = \Sigma(x_1, \ldots, x_p)_{i,j} = K(x_i, x_j).$ 忽略的选择的分布将是一个威沙特。

K

$K$

X (x_{1}, \dots, x_{p}) X (x_{1}, \dots, x_{p})^{T}

$\mathbf{X}(x_1, \ldots, x_p) \mathbf{X}(x_1, \ldots, x_p)^T$

W_{p} (Σ (x_{1}, \dots, x_{p}), 1)

$W_p(\Sigma(x_1, \ldots, x_p), 1)$

— NRH
source

感谢您的回答。reg，我有几个问题。您的答案-当您说将高斯dist转换为Wishart dist的转换适用于+ ve绝对cov矩阵的任何选择时，对于该cov矩阵我们有哪些diff选择？另外，仅需澄清一下-对于由cov函数定义的cov矩阵，i和j指示高斯过程的周围空间中的元素（例如，如果这是一个时间过程，则时刻t_1和t_2）？

— fish鱼

@steadyfish，是的，索引和指的是环境空间中的点和，并且是到两个时间点的时间过程。协方差矩阵始终是正（半）定的。该制剂的目的不是为了限制结果以任何方式，而是以强调它适用于任何语言只要是协方差矩阵。我离开了那个可能性可以只是半定，以避免混乱与不相关的问题的答案奇异正态分布等

i

$i$

j

$j$

x_{i}

$x_i$

x_{j}

$x_j$

Σ

$\Sigma$

-

$-$

Σ

$\Sigma$

Σ

$\Sigma$

— NRH

谢谢@NRH。我了解环境空间。关于协方差矩阵，我的问题是除之外，是否还有其他定义协方差矩阵的方式（与正定或正半定性质无关）。（我希望这次问题是清楚的！）

x^{T} x

$x^{T}x$

— steadfish

@steadyfish，哦，我明白了。实际上，我对转座以及向量是行向量还是列向量都很草率。我现在已经做到了精确，并增加了经验协方差矩阵与理论协方差矩阵之间的关系。理论上没有根据观察结果进行定义。

— NRH 2013年