马尔可夫链的中心极限定理

$\newcommand{\E}{\mathbb{E}}$$\newcommand{\P}{\mathbb{P}}$中心极限定理（CLT）规定，对于$X_1,X_2,\dots$独立且分布相同（iid），$\E[X_i]=0$和$\operatorname{ Var} (X_i)<\infty$，总和收敛为n \ to \ infty的正态分布$n\to\infty$：

$$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$$

取而代之的是，假设X_1，X_2，\点$X_1,X_2,\dots$形成具有期望值为0和有界方差的固定分布\ P_ \ infty的有限状态马尔可夫链$\P_\infty$。对于这种情况，是否有CLT的简单扩展？

我在CLT上找到的关于马尔可夫链的论文通常会处理更一般的情况。我将非常感谢您提供有关总体结果的说明以及如何应用的解释。

亚历克斯·R。（Alex R.）的答案几乎是足够的，但我添加了更多细节。在“ 关于马尔可夫链中心极限定理– Galin L. Jones”中，如果看定理9，它说：

如果是具有平稳分布的哈里斯遍历马尔可夫链 ，则如果是均匀遍历且 ，则CLT保持。$X$$\pi$$f$$X$$E[f^2] < \infty$

对于有限状态空间，所有不可约和非周期性马尔可夫链都是遍历遍历的。对此的证明涉及马尔可夫链理论中的一定背景。一个很好的参考是第32，在18定理的底部位置。

因此，马尔可夫链CLT对于具有有限第二矩的任何函数都成立。CLT采取的形式如下所述。$f$

令为的时间平均估计量，然后正如Alex R.指出的那样，当， $\bar{f}_n$$E_{\pi}[f]$$n \to \infty$

$$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$$

马尔可夫链CLT为

$$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$$

其中

$$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$$

项的推导可在此处的Charles Geyer MCMC注释的第8页和第9页中找到$\sigma^2$

马尔可夫链的“通常”结果是伯克霍夫遍历定理，它说

$$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$$

其中是平稳分布，且f满足E | f （X 1）| < ∞，并且收敛几乎是肯定的。$\pi$$f$$E|f(X_1)|<\infty$

不幸的是，这种收敛的波动通常很难。这主要是由于极难确定收敛到平稳分布π的总变化范围。在某些已知情况下，波动类似于CLT，您可以在漂移上找到一些条件，这些条件可以类推：关于Markov Chain中心极限定理-Galin L. Jones（请参见定理1）。$X_i$$\pi$

也有一些愚蠢的情况，例如具有两个状态的链，其中一个处于吸收状态（即且P （2 → 1 ）= 0），在这种情况下没有波动，并且会收敛退化为正态分布（常数）。$P(1\rightarrow 2)=1$$P(2\rightarrow 1)=0$