Gelman和Rubin收敛性诊断，如何泛化以使用向量？

Gelman和Rubin诊断程序用于检查并行运行的多个mcmc链的收敛性。它将链内方差与链间方差进行比较，说明如下：

步骤（针对每个参数）：

我想使用此统计信息，但我想使用的变量是随机向量。

在这种情况下，取协方差矩阵的均值是否有意义？

mcmc convergence covariance-matrix

— 提姆
source

Gelman＆Rubin [1]的原始文章，以及Gelman等人的贝叶斯数据分析教科书。[2]建议为每个感兴趣的标量参数分别计算潜在的比例缩减因子（PSRF）。为了推论收敛性，然后要求所有PSRF都接近1。将您的参数解释为随机向量并不重要，它们的分量是可以计算PSRF的标量。

Brooks＆Gelman [3]提出了PSRF的多变量扩展，我将在本答案的下一部分中进行回顾。但是，引用Gelman＆Shirley [4]：

这些方法有时可能代表过大杀伤力：即使对多元分布的模拟进行近似收敛可能需要很长时间，也可以很好地估计各个参数。

Brooks＆Gelman [3]提出了PSRF的多元扩展，实际上是将估计的协方差矩阵（您的步骤4）计算为链内（）和链间（）协方差矩阵（您的步骤 $W$ $B$ 其中是链长。然后，需要定义一些标量度量的协方差矩阵之间的距离。作者提出

\hat{V} = \frac{ñ - 1个}{ñ} w ^+ \frac{1个}{ñ} 乙 ，

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

其中

是链的数目，平等示出了本文中与

是的最大特征值正

。然后，作者认为，根据链的收敛，

，因而与大

此多元

应当收敛接近1。

\hat{[R} = \underset{一种}{最大值} \frac{{一种}^{Ť} \hat{V} 一种}{{一种}^{Ť} w ^一种} = \frac{ñ - 1个}{ñ} + （ \frac{米 + 1个}{米} ） λ_{1个} ，

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

[1] Gelman，Andrew和Donald B. Rubin。“使用多个序列进行迭代仿真得出的推论。” 统计科学（1992）：457-472。

[2] Gelman，Andrew等。贝叶斯数据分析。CRC出版社，2013年。

[3] Brooks，Stephen P.和Andrew Gelman。“监视迭代模拟收敛的通用方法。” 计算和图形统计杂志7.4（1998）：434-455。

[4] Gelman，Andrew和Kenneth Shirley。“从模拟和监视收敛推断”。（第6章，布鲁克斯，史蒂夫等人，《马尔可夫链蒙特卡洛手册》，CRC出版社，2011年。）

除教科书[2]以外的所有文章均可在Andrew Gelman的网站上找到。

— Juho Kokkala
source